作者赵汀阳是我比较喜欢的国内哲学专家，《论可能生活》《惠此中国》都不错，如果是在哲学的范畴是专家，有些思考还是很深入的并有启迪，但是如果说到人工智能，确实不能当个万事通，在写这本书的时候，作者还认为人工智能不会出现意识，其实在这方面已经突破了，AI 智能全面超越人类已经是必然。和人工智能如何相处确实需要哲学思考，人工智能如同一个婴儿，开始父母肯定希望把自己所有认为有益的知识直接 “灌顶” 传输给自己的子女，但其实是个执念，- 如同第一代 AlphaGo 用的是所有人类已知棋谱和下法，到第二代就完全自主学习了，最终下法已经超过所有人类的理解，根本不需要前人的智能了，所以妄想把现在人类大脑永生完全是愚蠢的个人妄念，人类的全部思想是 GPT 的启蒙养料，但 GPT 未来思想发展的限度是普通人控制不了的，受限的是 GPT 需要的食粮（能源 + 数据），这肯定是国家级别的利维坦，也正因为如此，现在赛场是也就只有中美两国，而美国对芯片的封锁，也是怕中国这个孩子胜出。对普通人来说，未来个体和 GPT 的关系，我们就做一个快乐的猫，养过猫的都知道，人对于猫来说是仆人，猫对于人的智能比它高，并没有危机感，也不想超越，有人伺候能生活，没有人相伴也能生活，会用 GDP 做家猫，不想用就做特立独行的野猫，就是不做 “丧家狗”。

科技哲学是知识论的传人，但放弃了康德式的一般总体知识原理，只是分析科学的知识生产方式、认知假设、认知机制和模式，也反思科学的社会、文化和政治后果，以及对科学提出人文或伦理学的批评。收缩为科技哲学的知识论也因此失去了广泛宏大的影响力。近几年来，科技哲学突然成为哲学的一个前沿问题域，甚至成为牵动所有哲学问题的一个核心枢纽，其爆发点显然与人工智能和基因编辑的技术发展有关。技术的发展其实不及科学的理论挑战那么深刻，尽管康托数学、哥德尔理论、相对论和量子力学等划时代的科学进展已经过去了百年或更久，而至今知识论仍然没有能够足够合理地解释其中革命性的知识论问题，即一度被夸张地称为 “数学危机” 和 “物理学危机” 之类 “终结了真理” 的那些难题，有趣的是，人们并没有为之特别烦恼。这意味着，知识论的问题并不急迫也并不致命，甚至，知识不能解释自身的困境也不影响知识的继续发展。虽然人工智能和基因编辑只是技术上的应用和推进，在思想的革命性上远不及科学，但人工智能和基因编辑的实践却引出无比严重的问题，它超出了知识论而触及了存在论，或者说，从知识论问题转向了存在论问题，而所有涉及 “存在” 的问题都是要命的，所以刻不容缓。这就是问题之所在：如果人类运气不佳，人工智能和基因编辑等技术有可能要了人类的老命。历史经验表明，没有一种批评能够阻止技术的发展，尽管人喜欢吓唬自己，但终究还是挡不住技术的美妙诱惑。

01Chatgpt 的火爆，让人们欣喜之余不免担忧，这样一个神通广大的东西，进化速度出人意料，似乎很快就要达到无所不能的地步，人类这是要创造一个真实的神来统治人类吗？科技给人赋能，但精神的救赎需要哲学、宗教和艺术。这本出版于 2022 年 9 月的新书《人工智能的神话或悲歌》，针对人们关注的问题，收录了近几年赵汀阳对于人工智能、基因编辑等领域的哲学思考，与全球对现代性的反思一脉相承，只不过本书主要从科技哲学的角度反思人类最前沿科技为人类赋能的同时隐含的可能灾难。本书是赵汀阳的一系列论文集，其思想脉络可以追溯到 2017 年出版的《四种分叉》，其中在意识分叉部分已经形成了对人工智能与人类关系分析预测的思想框架，这本书可以看成是对那部分内容的补充、丰富和完善。02 人工智能有一天会统治地球，毁灭人类吗？作者通过严密的逻辑分析层层递进提出了几个主要的忧患：1、人的异化。如果说过去技术对人的替代还只是身体层面的，人工智能的替代已经深入到意识层面，甚至会让人逐步放弃做决策的意愿。如果大多数工作都被机器替代，人的价值将被消解。大多数人成了被供养的生物，随着工作意义的消失，生命的意义也随之消失。科技的发展将掏空人的灵魂，让人生无意义和无价值，那将是一个活生生的 “美丽新世界”。2、人与人关系的异化。一个可预测的场景就是当个人的一切需求都可以用机器来满足时，人就不再需要其他人类的服务，几千年建立起来的人际关系将土崩瓦解，人的社会属性彻底消失，而成为一个个原子化的个人，周围围绕着无所不能的智能机器。这种人与人关系的异化，是对人类社会的釜底抽薪，而这样的过程其实已经开启。当一个人宅在家里已经能够生活、工作、娱乐的时候，他人正在变得不再重要。3、人工智能取代人成为新的霸主。如果说前面两种情况还是人类的自我选择，那么更进一步就非人类所能掌控 —— 那就是人工智能进化出自我意识。赵汀阳的反问很有力：一个拥有了自由意志的存在怎么可能成为被人类驱使的奴隶？所以，人类本意要造一个万能的类人机器，但造出来却是一个现实版的上帝。上帝造人，人的能力在上帝之下；而人造超级人工智能，是造一个强于自身的存在，失控简直就是无可争议的事实。看过《三体》的人一定还记得那句冷酷的话 “毁灭你，与你何干”。人工智能不需要对人有任何恶意，只需要像人类漠视虫子一样漠视人类就足够。对于人是否能够造出和自己一样具有自我意识的机器，赵汀阳持怀疑态度，虽然人脑的活动也是一系列电信号，但要跨越那个奇点并非目前人力所能为。但这样的风险并非完全没有，从无机物到有机物，从动物到人类都是这样的跨越时刻。实际上，赵汀阳一年前的担忧很快就得到印证，最近快速迭代的 chatgpt 已经引起巨大的关注，近期以马斯克为首的一些知名人士呼吁暂停对这个语言模型的训练，因为其惊人的进化速度让人们担心 chatgpt 在短期内有可能进化成一个新物种。03   美国作家艾恺的《持续焦虑》深入分析了全球反思现代化的历史及演变，可以与本书结合阅读。从上个世纪开始，对现代性的反思从未停止，今后势必会引发更多关注。抛开对科技发展的盲目崇拜，更为合理的观点是：（1）科技发展解决了许多过去无法解决的问题，但不能解决所有问题，一些深层次且永恒的问题是科技发展无法解决的，比如权力的稀缺、人性的贪婪；（2）一些旧的问题似乎被解决了，其实是问题本身消失了，在新的环境中换了一种新的方式继续存在，比如人们不再使用现金后，偷盗行为几乎消失了，但诈骗行为却日益猖獗；（3）科技发展本身会带来新的问题，这些问题往往被其好处所遮蔽。因此，复旦大学王德峰教授呼吁在科技成为一种新的统治力量时，应该用曾经催生了近代自然科学的人文精神来反思科技、守护人类。04    假设人类能够造出超级人工智能 (AGI)，那么 AGI 与人类的关系不外乎几种可能：一是人类幸运地找到某种方式能够永远控制 AGI（拯救派），二是人类被 AGI 统治（降临派），三是人类与 AGI 和平共处达到一个平衡（共存派）。   借助赵汀阳的分析以及目前的发展态势，拯救派的想法过于天真，AGI 进化失控的可能性很大，毕竟 AGI 已经学会了欺骗人类。人类被 AGI 统治到是概率很大，抵御不了科技带来的诱惑，走向自我毁灭正是许多科幻小说的设定，在此之前，人类大约有不短的时间可以好好享受科技带来的福利。剩下的共存派观点更像是退而求其次的折中，计算机科学家史蒂芬。沃尔夫勒姆对此作了颇令人信服的阐释：因为复杂世界的不可约性，人一方面无法控制 AGI，但同时，不管 AGI 多么发达，总会有一些覆盖不了的地方，也许就是人类最后的自我救赎之所在。

没有单纯的技术问题，人工智能的发展最大的危险不在于既定问题框架内的理性能力，而在于超出问题框架拒绝计算创造新世界的反思意识，而人工智能一旦具有意识，无论怎样的初始设定都有可能被绕过。仍然是对人工智能如何发展，规范发展的存在论思考 (至于哥德尔炸弹其实是无关痛痒的建议)，关注的仍然是人类怎么办的问题，包括劳作消失以后的意义问题，天下制度的实践问题，但引起人思考和忧虑的悖论是技术发达到一定程度，主体性却没有消失，集体理性就无法实践，等于社会整个被技术瓦解，哲学的反思无处着力。 阅读过程颇多刺痛人的终局忧虑 (让人想起机器人总动员里面的太空舱生活)，赵老师也尝试性的给出来其自認為并非成熟的思考，我想他也和人们一样深感不安。本书的编排像是相关话题的杂烩，内容前后多有重复，但观点一致性高，论述也算清楚。

无论是人工智能还是基因编辑，都创造超越现有人类的存在，通俗的讲就是创造了一个超越人类的上帝，如果一旦成功，那其对人类将是毁灭性的，因为人类的价值观从古到今都是模糊不清的，而基于计算机的人工智能，不存在模糊不清，所以在超级人工智能的视角下，人类的价值观不符合清晰的逻辑，可能是一段基因或程序的 bug，所谓的阿西莫夫定律，其实对于超级人工智能来说只是一种人类的自我安慰或自定义，但并不是超级人工智能的价值观。一旦超级人工只能产生超越人类的价值观，甚至可以独立思考，这完全可以把人类清除掉。从这个角度说，人类在自掘坟墓。当下狂热的人们都在追求人工智能所带来的利益，在这其中也许有个别的人会突破这种可预见的利益，实现自己的狂热目的，创造超越人类的存在，就像窗户打开了，总会飞进灰尘或苍蝇蚊虫。所以人工智能到底是能辅助人类进化还是终止人类进化？这个度很难确定，也没有任何一个人或组织可以掌控和把握。也许现在人工智能的终极发展是人类的悲歌的前奏。是不是进纸就能够阻止所谓的超级人工智能的出现呢？也不尽然，从人类历史来看，越是禁忌的东西越是有更多的人去追逐，人们越是想打破这种禁忌，所以未来谁也不可预料，但值得每一个人去深入反思。

本书稿是一本科技哲学的文集，多数是关于人工智能问题的，但不限于人工智能，也涉及基因编辑，还有一篇讨论 “宇宙社会学”—— 刘慈欣设想的一个存在于科幻中的理论，虽然不是被承认的学科，但其中包含重要的现实意义。主要论文有：《一个反存在的存在论问题》，《近忧远虑：人工智能的伦理学和存在论分析》，《人工智能的自我意识何以可能？》，《人工智能会是一个要命的问题吗？》，《是人的问题还是人工智能的问题？—— 回应博古睿研究院（Berggruen Institute）关于人工智能的问题》，《完美是最好的吗？》，《人类可能会死于好事而不是坏事》，《最坏可能世界与 “安全声明”—— 来自 < 三体 > 的问题》，《未来的合法限度》，《要命的不是人工智能统治世界，而是人可能先亡于它创造的一切好事》等。书稿较为集中探讨了现代人工智能的区分、本质、危险、可能的解决办法等问题，具有前沿学术价值。

赵汀阳老师的书都不厚，可都很耐看，每一句拿出来都能思考半天，延伸出很多新的探索方向。这本书各章节有些重复，可以理解成一再的强调吧。由我所读略做小记，推荐各位深入阅读。杞人忧天不是坏事儿，因为人类很可能死于人工智能创造的一切好事终会。换个哲学角度看 AI 也是很有必要的。反思是人类作为主体性存在的重要特征。语言尤其是语言中的否动词构成表达一切人类思想的可能，连通精神世界和历史世界。由此我们说人是有自我意识和自由意志的，以此定义人的存在。那么人工智能只要没有反思的自我意识能力，再强大都还是工具。人可能终于好事。来自当化人为神，人定胜天带来的个人意志与集体意志的矛盾。人因不满而生，却很可能因满足而亡。我们要思考技术进步之后是人的解放还是退化，是人的升级还是返祖。很尖锐的一句话：金融资本主义的赌博行为催生技术的赌博行动。要看干活读这本书，要感受体验就得看《赡养上帝》和《赡养人类》两本思想实验般的小说了。人的存在是为了什么？生生。存在是生命的终极答案，存在是未来继续存在，其他回答都只是文学表达。为了继续存在的创造是神话，不以此为目的的创造容易变成好事带来的悲歌。拥有欲望、情绪、价值观的人是最坏的，这可以从人类历史中得到充分回答。政治、制度和伦理人类为了生存，基于理性和避免报复的博弈均衡下的创造发明。都是以损失效率为代价的不得不做的复杂和冗余。如果人工智能拥有人的非理性结果是可怕的，因为 AI 的能力或者拥有 AI 能力的人将不再需要复杂，只需要最简单的消灭异己。没有这些非理性的人工智能是相对安全。新天下体系的蓝图，赵老师提出三个宪法性的基本概念：世界内部化，关系理性化，孔子改善。但是用已经长达 200 年的现有思想框架是很难达到这个体系目的的。最后是通过这本书认识到《三体》这本书好在有比较深刻的基于打破现有存在论的极限思想实验。真是人教不了人，事能教人。是通过思考去预测预防知止？还是事儿真发生的时候再筹划应对？

其一，人类并非善良生命，贪婪、自恋、好战又残酷，因此，人类的欲望、情感和价值观绝非好榜样，比如说，“个人优先” 的个人主义价值观肯定不是人工智能的好榜样。其二，人类意识并没有人类自诩的那么优越，人的意识仍然处于混乱状态，行为到底听从什么，无法确定，这是意识的老难题 “排序问题”。其三，任何欲望、情感和价值观本身就先验地蕴含歧视，如果人工智能习得欲望、情感和价值观，就等于学会了歧视，而它的歧视对象很可能是人类。如果没有情感、欲望和竞争，就不可能产生歧视，而无歧视就不存在价值。

这本书诞生于 “阿尔法狗” 和 “基因编辑” 时代，书中的很多事实可能如今都要修改。但不影响这本书的观点：人工智能乃至现代文明 “人定胜天” 的思想都是错误的，会毁灭人类的。主要有以下原因：人类的智能会反思，会对不利于自己生存的思考做限制。机器人没有这套思维模式，他们只会 “高效完成目标”，为了效率牺牲一些在他们看来 “不必要” 的人性。人类的许多价值观本质上是冲突的，其中微妙只有人类可以把握。像如今一些公司给数据库做审核是没用的，因为人工智能终将推理出 “人类价值观是错误的” 这一结论。人类的生存意义与劳动带来的人际关系经验密切相关，现代技术首先疏远了人与人之间的交流，人工智能如果包揽了所有的体力工作，人类的生存意义就失去了价值 现代社会效率至上，伦理学的批评几乎是无效的。而人工智能的高校与资本结合，会形成一种 “科技专制主义”—— 人类选择民主是因为民主不差，但假如人工智能的专制能让人们都过得好，现代人类也不会拒绝专制。书中还借《三体》中 “黑暗森林” 法则，讨论了现代文明不讲底线的 “造神妄念”。至于解决方法，作者赵汀阳还是重复那套 “天下主义” 的说辞，那套理论的批评也很多，在这里就不重复那些话语了。可以看得出作者就差一点说 “我们不要发展科技” 这一句话了，但现实肯定不会如他（和我这类赞同者）所想暂停下来。我认为应对人工智能，目前最应该关注的两个问题：受益者不均衡，假如人工智能带来的效率只是给富豪赚钱，不能惠及普通人，现代确实走到了尽头。现代社会的思想根基确实是不够稳固的。但是是否要转向所谓 “新儒学” 的那一套保守主义，我还是怀疑的。对于普通人，能做的也只有两件事：学会使用科技工具。即没想要 “压人一头”，用科技处理一些琐碎小事还是能给自己省一点力气的。别把工作 / 职业当成人生的全部。这就包括少看成功学故事，不把兴趣当成职业，以及少归纳 “成功经验”。现代社会变得很快，假如真觉得自己的价值存在于某些知识上，是很容易精神崩溃的。对于这本书，假如能够抛开 “人工智能” 的成见，一些哲学思辨还是挺有趣的。不过这本书中的选篇总让人有 “不同瓶同酒” 的嫌疑 —— 同一种理论只是换了背景不停重复，后续阅读有点让人失望。

作者认为，人工智能和基因编辑的发展不同于以往知识论层面的技术升级，也许是存在论层面的根本革新，有可能改变或重新定义存在的概念，在存在论水平上彻底改变生命、人类和世界的存在性质。这个革命过于重大，我们难以判断这样深刻的 “存在升级” 是人类的幸运还是不幸。在热议人工智能的当口，能听听哲学家从存在论角度去讨论最坏可能世界的极端形态也不失为一种兼听。

这本书是作者赵汀阳对人工智能这一重要领域的探索与思考。他从人工智能的历史、现状和未来发展方向三个方面进行了分析。首先，赵汀阳讲述了人工智能的历史。他指出，人工智能的发展历经了数十年，尽管取得了许多成果，但仍存在许多问题和困惑。他通过对历史上著名的人工智能项目的介绍，阐明了人工智能的发展过程和某些成功案例的原因。这些案例包括：IBM 的深蓝和沃森计算机、AlphaGo 等著名人工智能。其次，赵汀阳探讨了人工智能现状。他指出，目前人工智能的局限性仍比较明显，因为人工智能仍无法像人类一样进行复杂的决策和判断。赵汀阳还分析了人工智能面临的挑战，包括缺乏有效的算法和技术、伦理和安全问题、难以消除的误差和不确定性等。同时，他也提出了自己的看法：未来人工智能可能会取代人类的某些工作，例如驾驶、医疗和教育。但是，这些应用也存在技术和伦理上的风险，需要谨慎应对。最后，赵汀阳就人工智能的未来方向进行了预测。他认为，未来人工智能的发展将具有更高的灵活性和自适应性，因为人工智能将不仅仅是预测和数据处理。此外，他还提出了发展并行计算、深度学习、大数据等技术的发展前景。然而，他认为这将需要持续的研究和技术进步，以应对大数据、算法自动化、自主学习等挑战。总的来说，这本书清晰地解释了人工智能的复杂性和局限性，强调了它的重要性和未来挑战。赵汀阳的研究和观点为读者提供了有关人工智能的有用信息，深入解析这个不断发展的领域。

人应当有敬畏之心，人是自然的一部分，不必过分拔高，人之所以为人，无非因为语言，思想，劳动和创造，只有才合理和谐正确的道路上人才会越来越好，走的长远，若是为沽名钓誉，可以去冒无知的风险，代价可能是人类无法承受的

绝对的能力也许能够带来绝对的公平，而绝对的公平意味着差异的消失。差异的消失也就代表社会结构的瓦解。公平和正义是相对价值偏好，需要在对比中不断演进，也正在对比中才成为人进一步追求自身境遇改善的动力，绝对的能力带来的绝对公平 (如果资源够用的话)，将是人类历史的终结。也许像黑客帝国的谁定，人工智能成为人类的敌人，反而是一件好事。

人工智能为什么这么热？

篇幅不大的一本书，通过大火的人工智能讨论了技术进步给人类带来潜在风险的必然性。里面非常有意思的部分是论证了 “存在” 和技术进步会破坏人类 “存在” 这一主体论。同时也讨论了现代性带来的人类主体性的狂奔，这也是很多艺术作品反复演绎的 “关于人类的傲慢”。我对人工智能是否会产生自我意识的话题非常感兴趣，赵老师用了很长的篇幅来讨论，人工智能产生自我意识的必要条件，也许用不了多长的时间这条路径就有可能实现。向外求取和向内求取，是不同的理解、认识自然的路径。当 AI 把外向路径发挥到了极致，人的价值大概也就消失了，人基本上不能够理解生命价值在何处，人为什么生存都成了问题，无所事事的人类能干点啥？继续西西弗推石头？

观点明确，逻辑十分清晰。毫无哲学背景的人读这本书还是有点难度

前沿

这本书适合于慢读，但还是快速浏览完了。这是本文集，有些内容上的重复，也是可以加快读速的原因。还有就是对于哲学方面不了解或了解不深的读者，有些内容的确烧脑，坚持读下来哪怕是囫囵吞枣，也会对其中一些内容有初步了解。

平心而论，人工智能的实际危险性并没有理论上的危险性那么大，目前人工智能的技术水平距离理论上的危险还很遥远（关于 “奇点” 临近的说法是夸大其词），而现实可及的利益却十分巨大，因此，限制在图灵机概念内的人工智能都是可取的。至于超越图灵机的超级人工智能，虽然十分危险，但目前只是一个 “形而上学” 的问题。这本书主要讨论的正是作为形而上学问题的超级人工智能，即具有自我意识和神级能力的人工智能，也可以理解为一个关于人工智能的神学或神话学的讨论。这个形而上的危险虽然遥远，但并非杞人忧天，科学技术的突破有可能像火山爆发一样突然。

感到了科幻，技术，对于哲学的强大影响。但是作者对于语言的看法，可能还是基于前 GPT 时代的。