作者赵汀阳是我比较喜欢的国内哲学专家，《论可能生活》《惠此中国》都不错，如果是在哲学的范畴是专家，有些思考还是很深入的并有启迪，但是如果说到人工智能，确实不能当个万事通，在写这本书的时候，作者还认为人工智能不会出现意识，其实在这方面已经突破了，AI 智能全面超越人类已经是必然。和人工智能如何相处确实需要哲学思考，人工智能如同一个婴儿，开始父母肯定希望把自己所有认为有益的知识直接 “灌顶” 传输给自己的子女，但其实是个执念，- 如同第一代 AlphaGo 用的是所有人类已知棋谱和下法，到第二代就完全自主学习了，最终下法已经超过所有人类的理解，根本不需要前人的智能了，所以妄想把现在人类大脑永生完全是愚蠢的个人妄念，人类的全部思想是 GPT 的启蒙养料，但 GPT 未来思想发展的限度是普通人控制不了的，受限的是 GPT 需要的食粮（能源 + 数据），这肯定是国家级别的利维坦，也正因为如此，现在赛场是也就只有中美两国，而美国对芯片的封锁，也是怕中国这个孩子胜出。对普通人来说，未来个体和 GPT 的关系，我们就做一个快乐的猫，养过猫的都知道，人对于猫来说是仆人，猫对于人的智能比它高，并没有危机感，也不想超越，有人伺候能生活，没有人相伴也能生活，会用 GDP 做家猫，不想用就做特立独行的野猫，就是不做 “丧家狗”。

科技哲学是知识论的传人，但放弃了康德式的一般总体知识原理，只是分析科学的知识生产方式、认知假设、认知机制和模式，也反思科学的社会、文化和政治后果，以及对科学提出人文或伦理学的批评。收缩为科技哲学的知识论也因此失去了广泛宏大的影响力。近几年来，科技哲学突然成为哲学的一个前沿问题域，甚至成为牵动所有哲学问题的一个核心枢纽，其爆发点显然与人工智能和基因编辑的技术发展有关。技术的发展其实不及科学的理论挑战那么深刻，尽管康托数学、哥德尔理论、相对论和量子力学等划时代的科学进展已经过去了百年或更久，而至今知识论仍然没有能够足够合理地解释其中革命性的知识论问题，即一度被夸张地称为 “数学危机” 和 “物理学危机” 之类 “终结了真理” 的那些难题，有趣的是，人们并没有为之特别烦恼。这意味着，知识论的问题并不急迫也并不致命，甚至，知识不能解释自身的困境也不影响知识的继续发展。虽然人工智能和基因编辑只是技术上的应用和推进，在思想的革命性上远不及科学，但人工智能和基因编辑的实践却引出无比严重的问题，它超出了知识论而触及了存在论，或者说，从知识论问题转向了存在论问题，而所有涉及 “存在” 的问题都是要命的，所以刻不容缓。这就是问题之所在：如果人类运气不佳，人工智能和基因编辑等技术有可能要了人类的老命。历史经验表明，没有一种批评能够阻止技术的发展，尽管人喜欢吓唬自己，但终究还是挡不住技术的美妙诱惑。

01Chatgpt 的火爆，让人们欣喜之余不免担忧，这样一个神通广大的东西，进化速度出人意料，似乎很快就要达到无所不能的地步，人类这是要创造一个真实的神来统治人类吗？科技给人赋能，但精神的救赎需要哲学、宗教和艺术。这本出版于 2022 年 9 月的新书《人工智能的神话或悲歌》，针对人们关注的问题，收录了近几年赵汀阳对于人工智能、基因编辑等领域的哲学思考，与全球对现代性的反思一脉相承，只不过本书主要从科技哲学的角度反思人类最前沿科技为人类赋能的同时隐含的可能灾难。本书是赵汀阳的一系列论文集，其思想脉络可以追溯到 2017 年出版的《四种分叉》，其中在意识分叉部分已经形成了对人工智能与人类关系分析预测的思想框架，这本书可以看成是对那部分内容的补充、丰富和完善。02 人工智能有一天会统治地球，毁灭人类吗？作者通过严密的逻辑分析层层递进提出了几个主要的忧患：1、人的异化。如果说过去技术对人的替代还只是身体层面的，人工智能的替代已经深入到意识层面，甚至会让人逐步放弃做决策的意愿。如果大多数工作都被机器替代，人的价值将被消解。大多数人成了被供养的生物，随着工作意义的消失，生命的意义也随之消失。科技的发展将掏空人的灵魂，让人生无意义和无价值，那将是一个活生生的 “美丽新世界”。2、人与人关系的异化。一个可预测的场景就是当个人的一切需求都可以用机器来满足时，人就不再需要其他人类的服务，几千年建立起来的人际关系将土崩瓦解，人的社会属性彻底消失，而成为一个个原子化的个人，周围围绕着无所不能的智能机器。这种人与人关系的异化，是对人类社会的釜底抽薪，而这样的过程其实已经开启。当一个人宅在家里已经能够生活、工作、娱乐的时候，他人正在变得不再重要。3、人工智能取代人成为新的霸主。如果说前面两种情况还是人类的自我选择，那么更进一步就非人类所能掌控 —— 那就是人工智能进化出自我意识。赵汀阳的反问很有力：一个拥有了自由意志的存在怎么可能成为被人类驱使的奴隶？所以，人类本意要造一个万能的类人机器，但造出来却是一个现实版的上帝。上帝造人，人的能力在上帝之下；而人造超级人工智能，是造一个强于自身的存在，失控简直就是无可争议的事实。看过《三体》的人一定还记得那句冷酷的话 “毁灭你，与你何干”。人工智能不需要对人有任何恶意，只需要像人类漠视虫子一样漠视人类就足够。对于人是否能够造出和自己一样具有自我意识的机器，赵汀阳持怀疑态度，虽然人脑的活动也是一系列电信号，但要跨越那个奇点并非目前人力所能为。但这样的风险并非完全没有，从无机物到有机物，从动物到人类都是这样的跨越时刻。实际上，赵汀阳一年前的担忧很快就得到印证，最近快速迭代的 chatgpt 已经引起巨大的关注，近期以马斯克为首的一些知名人士呼吁暂停对这个语言模型的训练，因为其惊人的进化速度让人们担心 chatgpt 在短期内有可能进化成一个新物种。03   美国作家艾恺的《持续焦虑》深入分析了全球反思现代化的历史及演变，可以与本书结合阅读。从上个世纪开始，对现代性的反思从未停止，今后势必会引发更多关注。抛开对科技发展的盲目崇拜，更为合理的观点是：（1）科技发展解决了许多过去无法解决的问题，但不能解决所有问题，一些深层次且永恒的问题是科技发展无法解决的，比如权力的稀缺、人性的贪婪；（2）一些旧的问题似乎被解决了，其实是问题本身消失了，在新的环境中换了一种新的方式继续存在，比如人们不再使用现金后，偷盗行为几乎消失了，但诈骗行为却日益猖獗；（3）科技发展本身会带来新的问题，这些问题往往被其好处所遮蔽。因此，复旦大学王德峰教授呼吁在科技成为一种新的统治力量时，应该用曾经催生了近代自然科学的人文精神来反思科技、守护人类。04    假设人类能够造出超级人工智能 (AGI)，那么 AGI 与人类的关系不外乎几种可能：一是人类幸运地找到某种方式能够永远控制 AGI（拯救派），二是人类被 AGI 统治（降临派），三是人类与 AGI 和平共处达到一个平衡（共存派）。   借助赵汀阳的分析以及目前的发展态势，拯救派的想法过于天真，AGI 进化失控的可能性很大，毕竟 AGI 已经学会了欺骗人类。人类被 AGI 统治到是概率很大，抵御不了科技带来的诱惑，走向自我毁灭正是许多科幻小说的设定，在此之前，人类大约有不短的时间可以好好享受科技带来的福利。剩下的共存派观点更像是退而求其次的折中，计算机科学家史蒂芬。沃尔夫勒姆对此作了颇令人信服的阐释：因为复杂世界的不可约性，人一方面无法控制 AGI，但同时，不管 AGI 多么发达，总会有一些覆盖不了的地方，也许就是人类最后的自我救赎之所在。