看完了哈作者是哈萨比斯的合伙人，一起创办了 DeepMind，后来被谷歌并购。不知道作者经历了什么，在 AI 已然高歌猛进的 2023 年，“不合时宜的” 写下这本书。1. 简单的说，作者认为：自 AlphaGo 下出第 37 手棋，AI 已经超出人类理解范围。AI 能力越来越强，是毋庸置疑的，但 AI 伦理、监管还没有达成共识，后果一定是灾难性的。AI 能不能做，已经不是问题。AI 该不该做，仍是个大问题，以及如何界定、如何监管、谁来监管…… 都是问题。尽管某 “乐观派” AI 教父说，现在 AI 的智商还不如狗，不用过早担心，出现问题至少还需要 30、50 年…… 作者说，这东西发展速度远超预期，等出问题那不晚了么，这可不能大意。因此，作者陷入深深的焦虑，于是从 Alphabet（谷歌母公司）跳槽到微软。2. 作者自比冯・诺依曼、奥本海默，在主导一项影响世界格局的技术革新后，陷入深深的担忧，不知道自己是否打开了潘多拉的盒子。他认为，AI 比核武器更危险，因为核武器制造成本高，制造难度大，造成的破坏性又太大，比较容易监管，一般不会使用。但 AI 不同，其便捷性、易用性、可用性、零边际成本…… 润物细无声般的无孔不入，人们有 FOMO 焦虑，于是趋之若鹜，然后像温水中的青蛙，慢慢滑向万劫不复的深渊。3. 作者说，看我老家 IP 在叙利亚，所以你懂的，我见过太多人世间的黑暗与丑恶…… 然后列举了，革新技术失控带来的种种灾难，包括但不限于：核武器扩散奥姆真理教切尔诺贝利事件曼哈顿计划黎巴嫩真主党自杀式袭击实施斩首行动潜伏期长成本率高的生化武器干扰政府大选…… 上述情况，都已经真实发生过。如果不法分子使用 AI，后果不堪设想，不需要 AI 全面碾压人类智能。甚至都不需要坏人，AI 可以不断涌现，直到出现奥创式的硅基生物，届时大概率造成防不胜防的灾难。这一 part 特别合我口味～4. 严格意义上来说，作者不算悲观派，AI 教父杰弗里・辛顿、埃隆・马斯克等才是，他们都建议马上停止 AI 相关研发。作者认为，在全球大国地缘政治博弈下，全面停止 AI 已经是不可能的，而是应该由各 AI 大国坐下来协商，形成类似《不扩散核武器条约》的联盟共识，审慎应用严格监管。即使如此，也难以保证 AI 导致的最坏局面不会发生，因为各国右翼崛起，政治极化日趋严重，达成共识并实施的难度越来越大。作者作为头部从业者，对技术发展进程更了解，因此其观点比尤瓦尔・赫拉利的《智人之上 —— 从石器时代到 AI 时代的信息网络简史》似乎更有说服力，也表达得更克制，毕竟还得靠 AI 研发吃饭。那么，问题来了：微软及比尔・盖茨给这本书站台，真的好吗？

作者穆斯塔法・苏莱曼（Mustafa Suleyman）既非历史学家，也不是科技作家或预言家。但在 AI 领域，他堪称顶级专家，作为 DeepMind 联合创始人，如今又执掌微软人工智能业务，手握改变行业走向的话语权 。相比历史学家尤瓦尔・赫拉利、科技作家凯文・凯利（KK）对未来的预测，尚需时间验证（部分验证过），苏莱曼却是曾经创造过历史的人，而且正在创造 AI 领域的历史。他的作品，字里行间尽显技术派的深度思考，无疑更具前瞻性与现实意义。苏莱曼以大量篇幅揭示 AI 技术如汹涌浪潮，正不可阻挡地席卷人类社会。即便在结尾，提出人类联合或许能遏制 AI 技术发展，却仍难掩其中的悲观基调。作者抛出的十条落地路径，虽描绘出美好愿景，可实现的前提是什么呢？全人类联合，这近乎是乌托邦式的幻想，未来究竟何去何从？令人玩味的是，这本书并未得到主流 AI 从业者的赞誉与推荐，他们或许忙得无暇顾及，又或许是不想谈这个话题。合成生物学家和医学家群体同样保持沉默，毕竟当下他们何尝不是沉浸在 AI 技术带来的红利中，鲜有人愿意探讨如何遏制这股未来浪潮。这本书问世时，开源的 DeepSeek 尚未普及，如今它已渗透到各行各业，甚至开始涉足监管职能，书中预言的 AI 影响力，正在加速成为现实。这本书，既震撼人心，又充满悲情色彩。明知前路艰难，作者仍为人类的未来振臂高呼，尽显 "明知不可为而为之" 的侠者风范，值得每一位关注 AI 与人类命运的读者研读。

技术发展史上，技术突破常引发意想不到的 “报复效应”。爱迪生发明的留声机原本为盲人设计，却意外推动了流行音乐产业的发展；古腾堡的印刷机原本用于大量印刷《圣经》，却意外地推动了科学革命和宗教改革，削弱了宗教权威；抗生素的过度使用则导致了新的抗药性疾病的出现。同样，人工智能和基因工程等前沿技术也可能带来类似的副作用，关键在于我们如何利用它们的好处并控制这些潜在风险。人工智能已深入我们的生活，从人脸识别、即时语音翻译到自动驾驶，甚至能生成图像、文本、音乐和视频。随着数据量的增加，这些系统将变得更加智能。基因工程也日益民主化，DNA 合成器成本的降低使得更多人能够操纵 DNA。然而，技术的普及是一把双刃剑。个体能力的民主化也意味着风险的民主化。例如，人工智能系统将使每个人都能制作出专家品质的内容，而基因工程则可能让普通人创造出新型 DNA，甚至可能产生致命的病原体。这种发展可能引发混乱，如网络攻击等。以 AlphaGo 为例，它通过自我对弈和数据分析找到了人类难以想象的策略。若将人工智能用于网络攻击，它可能系统地了解自己的漏洞并实时打补丁，利用系统漏洞进行优化，并在网络中任意移动，破坏医疗、运输和金融等关键基础设施。即将到来的技术浪潮既可能让我们展现最好的自己，也可能让我们暴露最坏的自己。我们无法准确预测人工智能系统的自我完善速度，也无法预知尚未发明的生物技术可能带来的意外后果。然而，这是大势所趋。技术革命允许所有人发明和使用工具，其影响将波及所有人。因此，我们需要更加谨慎地面对和利用这些新技术。