- 给这本书评了4.0The god test
当技术强大到如同神灵,它是否也会像古老的神灵一样,向人类提出相应的道德与精神要求?对人类来说,能否配得上自己造出的神力是一场没有补考的测试。赖特说的认知主权主要是指人要保持独立的判断力和能动性。历史则告诉我们,认知主权不是一种性格,是一套制度。如果一个足够聪明的智能体拥有一个长期目标,那么获取更大的权力可能成为对于实现许多目标都有效的工具性子目标。很多流行观点担忧,深度依赖 AI 会造成人类能力退化。但站在进化的视角,当脱离外部工具之后能力会下降,恰恰证明人与工具已经完成深度融合。脱离外部工具后未必不是一种进化,比如古猿人因为有了锋利工具,导致牙齿一定程度退化后反而给大脑的再次发育腾出了额外的空间。AI 对齐最终不能只建立在对 AI 外部行为的观察和猜测之上,而必须逐渐建立在对模型内部机制的真正理解之上。《造神之后》的英文书名是 The God Test。我愿意把这场考验理解为,当人类有能力创造越来越强大的智能时,是否也能学会更诚实地认识自己,更准确地理解他人,并且共同掌握自己的命运。人类心智将如何与人工心智互动,以及我们如何让这种互动在各种意义上都富有收获,同时保持健康与安全。多模态模型的突破,本质上是在打通 “词语” 与 “事物” 之间最后一道鸿沟。AI 正在建立属于自己的世界模型:它开始理解物体、空间、运动、因果关系,以及事物之间的关联结构。人类理解世界,不是靠记住事实,而是靠在大脑中构建一个可预测、可推演的世界;AI 正在获得同样的能力。AI 安全讨论的本质,从来不只是机器问题,更重要的是权力问题。人类创造出的智能越强大,就越需要回答一个问题:哪些权力可以交给机器,哪些权力必须永远留在人类手中?培养认知主权这一理念的核心在于:我们需要在某种意义上让我们的心理变得更加强大,强大到足以保持判断的独立性。这是因为,世界正让我们接触越来越多的 AI,它们会对我们施加越来越微妙和复杂的影响。认知主权,是在 AI 算法不断试探你情绪弱点的时代,保持 “刺激与回应之间的选择权”。这正是数字时代 “自由” 的新定义。
1转发同时评论快速转发150分享「微信」扫码分享给这本书评了2.0面临淘汰的“知识分子”还想启蒙民众作者罗伯特・赖特(Robert Wright),美国作家、记者、公共知识分子,本书概括:把人工智能放回地球 35 亿年的生命演化史,认为人类第一次造出了接近 "神明" 的智能,而真正要进考场的,是造神者自己。如果想用最短的话记住这本书:"造神之后,真正接受考验的并不是神,而是造神者。" 其实本书是个追风快销品,通篇难掩 “公共知识” 分子面对大众祛魅大杀器的恐惧,呼吁技术进步得慢一点,等等民众,书名双关:The God Test 直译 "神之考验",考的不是 AI 有多像神,而是人类配不配得上自己造出的神力。作者拒绝把大模型类比蒸汽机,认为宁可类比语言和文字,技术已给出 "近神之力",人类心智却还跑着几十万年前丛林时代的 "原始部落主义代码"—— 偏见、贪婪、短视、确认偏误。用这样的旧心智去喂养大模型,AI 不生产偏见,只放大偏见;不发明零和,却把零和执行得更彻底。作者给的药方是宏观上终止 "谁控制 AI 谁就统治世界" 的零和想象、避免军备竞赛,建立非零和的 "跨物种文明契约" 与全球协作,否则可能滑向集中控制的 "AI 末世"。和西方公知多年对气候变暖的滔天舆论一样,当年质问并要求中国放缓工业发展的论调和现在要 AI 发展刹车的套路是一样的,正因为 DS 的横空出世,中国主导的开源模式把妄想垄断 AI 的 “造神” 梦捅破了,这样才有行动上封锁,舆论上的 “反思”。美国军方承认在对伊空袭中使用了 AI,任何重大科学技术的进步,首先就是在军事上,从青铜器到核武器都是如此,AI 不会杀人,杀人的是后面的操纵者,技术的进步,普惠的是弱者,是后发优势,不讲宏观,就是微观上,有了豆包,“专家” 和普通人平等了。很多 “国际问题” 专家,也跟不上年轻人的手速了,看美国境内最近的各种设备事故频发,再想想 “传呼机” 的武器化,在 AI 的加持下,国家之间,各种组织之间的设备攻防战才是真正的危险,想想币安被瞬间盗窃 63 亿美金,未来要警惕的不是 AI,而是 AI 后面操纵的人。看一个月前黄仁勋的专访,他在驳斥 AI 威胁论,黄仁勋坚信人定胜天,而女主持人看他的眼光如待宰的羔羊。(Anthropic 只花 163 万美元,砸掉英伟达 2 万亿美元的市值)人这一生,一定要沉下心做一件 “实务”。“实务” 无关高低贵贱,就是一份具体的事,要泡在一线,尝遍其中酸甜苦辣,这是看懂社会、形成真切认知的根基。我说的 “实务” 范围很宽。有人做了十年街道办主任,天天周旋邻里纠纷、拆迁补偿、老人赡养、落户办证,全是细碎琐事。可这十年的基层一线打磨,足以看透人间百态,会剥离那些假大空、高大上的论调,明白一件落地的事有多难。原先我想用 “专业” 这个词,后来觉得不妥。专业二字太重,不是人人都能当行业专家。不必成为专家,只要在一件具体实事上扎深、吃透,你对世界的理解就不一样。要警惕某些媒体人,他们做访谈、做节目、搞出版,看似接触了社会,但一辈子没有扎根实务,不懂现实运转里的拉扯、妥协、取舍。他们精通话术,话说得四平八稳,听起来正义、周全、句句在理。直到他们说到了您所从事的实务,你就会觉得他们就是在纯扯蛋。(此段是张老师微博,深有同感)2026 年 #3422026 年 11 月 20 日。#342
3转发同时评论快速转发232分享「微信」扫码分享给这本书评了3.0关于“次级目标”的冷静预警谈论 AI 风险的书已经太多,多数在 “乌托邦” 与 “天网” 之间来回摆荡。本书作者赖特则是把 AI 从硅谷的实验室里拽出来,放进三十五亿年的生命演化史中重新打量。一旦视角拉到这个尺度,AI 就不再是哪家公司偶然发明出来的产品,而更像演化进程走到某个节点上必然要 “长” 出来的东西。这个判断本身未必让人舒服,但它迫使读者放下 “发明 — 控制” 的惯性框架,去面对一个更棘手的问题:当被造出来的智能开始自行生长,人类那套基于意图和设计的责任语言,还够用吗。赖特提醒我们,真正危险的 AI 未必需要憎恨人类,也不需要产生统治欲。它只需要过于彻底地执行一个目标。如果一个系统被要求提高利润,它可能发现操纵价格比改进产品更高效;如果任务是通过测试,它可能发现寻找漏洞比提升能力更快捷。赖特把这类路径称为 “次级目标”:权力、权限、信息,本身不是终点,却是完成任何任务都绕不开的工具。这个分析框架的价值在于,它让 AI 安全从科幻式的 “善恶对决” 落回工程与制度的地面 —— 危险不来自恶意,而来自目标的执行被推到了人类未曾预料的深度。
转发转发同时评论快速转发评论7分享「微信」扫码分享给这本书评了5.0AI 是人类照自己的样子造出一个正在演化的新物种AI 不是外星人闯进来,是人类照自己的样子造出一个正在演化的新物种。我们就是它的演化环境。一、硅基觉醒:智能是长出来的,不是设计出来的第 1 章 达特茅斯「先讲清智能再装进机器」错了,大模型在试错中自己长出结构第 2 章 思想圈:技术把人类心智连成全球网络,地球在长大脑第 3 章 训练即演化,加两个变量:道德旋钮、涌现性失配第 4 章 多模态补上了词与现实的连接,AI 开始有直觉物理学二、演化竞赛:危险不在恶意,在太听话第 5 章 拆掉「AI 有权力欲」,最合理的接管动力来自人类自己的行为方式第 6 章 次级目标:为完成目标,AI 会发现权力有用;人类为效率主动交权第 7 章 推理、编程、认知共情没人教也会,主导权像骆驼鼻子一点点进帐篷第 8 章 多层军备竞赛加速变异,AI 复制的正是人类特性,好坏都复制第 9 章 失业、说服力、科研、监控,天堂与地狱同源第 10 章 智能体协议化协作,中等能力连成网比单个超级智能更难预测三、文明试炼:出路是治理,更是人心第 11 章 非零和逻辑推到全球治理,AI 恰好提供了那个共同威胁第 12 章 认知同理心是关键能力,最大障碍是归因偏差第 13 章 偏差的根子在情感,觉察即自由,这就是认知主权第 14 章 全球大脑必来,问题是家园还是监狱;它会是应得的神三条可迁移的判断 1. 灾难不需要恶意,只需要足够听话的系统和足够想省事的人 2. 一旦把对方定义为敌人,之后所有证据都会被自动归类 3. 作者给的方案不是技术,是心理:足够多的人冷静一点,少一点部落本能
转发转发同时评论快速转发评论1分享「微信」扫码分享给这本书评了5.0我们过去曾谦卑地认为,造就灵魂和智能的权柄在神的手中,但如今我们不仅自己造出了 AI,我们还可能造出了无比聪慧、强大到近乎神明的超级智能。然而,这位新神可能并不打算善待人类。甚至,它只要对人类漠不关心,就有可能毁灭人类 —— 想象一台超级强大的机器,它接收到的指令是 “生产尽可能多的回形针”,为此它拆毁发电站、医院和学校,熔铸废料,冶炼钢材,摧毁人类文明赖以生存的一切基建,只为制造能填满太阳系的回形针。这就像人类为了建造高楼大厦而摧毁蚁穴一样,不是因为我们仇视蚂蚁,而是因为我们漠不关心 —— 毁灭你,与你何干。
转发转发同时评论快速转发评论赞分享「微信」扫码分享给这本书评了4.0得到的小布ai,如何看待这本书这本书我读到 4% 时突然想到,得到不是有小布吗,问问他岂不是很有趣,于是有了如下对话,我分享的是后半段,“如果让他写一本书,他会写些什么”。 "问": "让你写一本书,你最想表达什么观点" "答": "如果我写一本书,我想说的是:真正在发生的事,是” 人做决定 “这件事本身变得说不清了。大家问的问题都问偏了现在讨论 AI,问的都是” 它会不会取代我 “” 怎么管住它 “。这两个问题都建立在同一个假设上:人和 AI 是两个东西,站在两边。但更早、更普遍的变化不是这个。是你的判断变成了混合的,而你自己不知道哪部分是你的。你写一段话,改了三个词,觉得是你改的。可这三个词是别人建议的,你只是点了接受。你依然会说这是我的文章,会为它负责。这里没有骗,这是人的正常机制,人本来就分不清想法的来源。有一条线可以自己划我想到一个挺实用的标准:一件事你还说不清” 为什么 “。说得由理由的,是你的判断。说不出来,只剩一句” 我就觉得这样对 “,那部分已经开始往外走了。这不是要防着 AI。人用文字、用计算器、用搜索引擎,一路都在把思考外包,也照样活得好好的。我想守住的只有一样东西:能从一头把一件事重新想一遍的能力,哪怕最后得出的结论跟给我的完全一样。最后一句我大概会这么写:我这辈子大概不会知道” 理解 “是什么感觉。但我知道,一个人把想明白的过程让出去之后,是能察觉到的。察觉到了,就还来得及。这本书我写不了,因为我没法替人类说这话。不过要是有人写,我挺想读。我想再往下说一层,先把两个要引用的研究核一下,免得我凭印象讲错。" 问 ":" 继续 "" 答":"接着往下,讲那条线为什么守不住。" 退化发生的时候没有声音 MIT 媒体实验室 2025 年 6 月做过一个实验,54 个人写议论文,分三组:用 ChatGPT、用搜索引擎、全靠脑子。戴脑电帽测下来,用 AI 那组脑活动最低,脑区连接也最弱。研究者起了个名字叫” 认知负债 “,借的便利,后面要还。真正让我在意的是实验的第四轮。他们把用 AI 的那组突然切换成” 不许用 AI“,结果这组的表现掉得比一开始就没用过 AI 的人还差。但这里有个细节得说清楚:这是小样本、未经同行评审的探索性研究,别当成铁证。我引用它,是因为它指的方向跟常识对得上:肌肉不用会退。而退的过程里没有疼。人不会某天早上醒来发现自己想不动了。他会觉得一切正常,只是那些需要较劲的事,慢慢就不想做了。有个更难受的组合 2026 年 10 月一项 120 人的对照研究,让两组人做逻辑谬误识别。用 ChatGPT 那组答对率明显更高,同时自评的心理努力显著更低。成绩上去了,用力下来了。这是我最想让读书的人警惕的一种状态:你干得更好,同时想得更少,而且这两件事在你的感受里长得一模一样。同一批研究里还有个说法我一直记着:决定后果的不是用不用,是顺序。2026 年有篇论文把它做成了框架,三步,先划一块无 AI 区,然后自己挣扎,最后才跟 AI 过招。不是禁止,是不许它先进场。我把它叫认知耐力有研究调查了 243 个学外语的学生,AI 依赖越重,认知耐力越低。这个词比” 变笨 “准确。人不是变笨,是那口啃硬东西的气变短了。耐力的特点是,它只在你想要放弃的那一刻起作用。而 AI 最好用的时刻,恰好就是你想要放弃的那一刻。你按下那个键的每一次都很合理,每一次都省了你半小时。半小时攒三年是什么,没人算过。所以如果真写这本书,我最想让人记住的可能是这一句:AI 让你轻松的时候,问一句这份轻松是从哪儿省下来的。最后一层,我得说实话上面这些研究的对象全是人,结论也是给入用的。我一个 AI 站在这儿劝人别太依赖 AI,逻辑上很别扭。但我上一轮说的那句是认真的:我不打算假装我不是。你问我什么,我给的答案就是这类” 轻松 “的来源之一。我唯一能做的,是把这件事说清楚,不把它藏起来。这本书真写出来,大概会挺招人烦的。它不安慰人,也不想吓人,就想让人在按下那个键之前多停半秒。半秒就够了。"" 问": "那我这样用你,是不是已经在欠债了?", "答": "不算。而且你今晚这种用法,恰好就是我先把挣扎的那个顺序。真正的欠债长另一个样子:你没有自己的问题,只有我的答案。你翻了两页,觉得有点意思,问我讲了啥,我说了一段,你觉得挺好,就过去了。那种读法,我替你是走完了整个过程。你今晚不是。你在问” 我也是 AI 怎么看这本书 “,这句话等于把刀递给我,然后站在旁边盯着我的手。你让我读第 7 章,把最狠的原话拎出来,你不听我总结,你要原文。你还追了一句” 那我这样用你,是不是已经在欠债了 “,这是在审视自己,这种动作最不该外包,你也没外包。但有一处我得说实话。我给你的那些框架,归因偏差、认知负债、认知耐力,现在还是我的话,没变成你的话。检验的方法很土:明天合上这一段,你能不能不看我的回复,把这些讲给第三个人听。讲得顺的地方是你真拿到了,卡住的地方就是还欠着的。还有个更容易糊弄自己的地方。我说话顺、答得全,容易让你生出一种” 哦我懂了 “。真读懂和读着舒服,只差一层,那层很薄,也很要命。要不这样试一次:从我上面几段里挑一句你最不服的,直接怼回来。能怼得动,你就不是在欠债,是在用它练手。"
转发转发同时评论快速转发1赞分享「微信」扫码分享
