我在大学课堂上教的基本的知识点之一，就是运用技术要遵从一些基本限制。我们知道，运用数学和科学知识来做事情都是有基本限制的。其实，技术也不外如是，如何运用技术也应该有所限制。倘若只用计算技术的眼光看待世界，或仅利用技术来解决重大社会问题，我们往往会犯一系列可预见的错误，阻碍人类的进步，加剧社会的不平等。所谓算法，是得出某个结果的计算程序，它好比食谱，是某种菜式的烹饪方法。有的算法会越来越多地被用于替人们做决策。有时候，我们需要编写代码来研究这些算法是否妥当。其他时候，我们得盯着那些粗劣的技术或错漏的数据，并随时发出警告。狭义人工智能是纯粹的数学。它没有 GOFAI 那么刺激，但高效得惊人，我们可以用它做许多有意思的事情。不过，这个领域的语言表达非常混乱。机器学习是一种流行的人工智能形式，它不是 GOFAI。机器学习是狭义人工智能。这个名称本身就很令人困惑。哪怕是我，都会以为 “机器学习” 这个短语表示计算机产生了意识。计算机科学界的大量创新都起源于贝尔实验室，包括激光、微波和 Unix 系统（除了 C 语言之外，丹尼斯・里奇也参与了 Unix 的开发）。C 语言之所以叫 C 语言，是因为它诞生于贝尔实验室所写的 “B 语言” 之后。C++ 是一种如今仍然流行的语言。它和它的近亲 C# 一样，都是 C 语言的后代。所谓 “硬件”，是指计算机的芯片、晶体管和电线等，这些东西构成了计算机的物理形态。“终端” 程序是一个精美的图形用户界面（GUI），打开它，你距离硬件就更近了。“终端” 程序上有一个闪烁的光标。光标所在的地方，就是一个 “命令行”。计算机会逐字逐句地将你在命令行中键入的所有内容进行解读。通常，在你按回车键时，计算机会尝试执行你前面所输入的所有内容。程序每一次执行循环都是一个小步骤。如果能将许许多多像这样的小步骤组合在一起，聚沙成塔，你就能干成大事儿。计算机编程人员非常擅长分析任务，将任务拆解成非常多的小步骤，并且让计算机处理每一个小步骤。只要将所有小步骤放在一起，再稍加修改，让它们互相配合，很快你就得到了一个能运行的计算机程序。现在的程序都是模块化的。所谓模块化，就是说可由不同的程序员构建不同的模块，而且只要将模块正确地拼接上，它们就能正常运行。计算机生成的数据本质上也是由社会构建出来的，因为计算机就是由人类制造的。而数学也是人类创造的一个符号系统。顾名思义，计算机就是能计算的机器，能执行上百万次数学运算。计算机并非诞生自绝对的宇宙规律或自然法则，而是一些专业人员在特定的组织环境中，有意图地做了上百万个细微的设计决策，从而得到的产物。我们在理解数据以及计算机（作为生成并处理数据的机器）时，必须理解这样一个社会与技术背景：人类制造计算机，计算机制造数据。

有些事情是机器永远也学不会的，而人类的判断、强化和解释永远都是有必要的。今天先进的机器承载着无数前人的人力和与智慧。机器诚然会出错，这是因为它们是是人类在特定的社会和历史背景下创造出来的。将现实世界量化，让机器学习是很了不起的戏，但实际上总有无法量化的人类问题（比如电车悖论），让机器学习变得如此困难。人类未来才是解题的关键，是所有技术应该服务的对象，人人都应从技术的开发和应用中有所受益！

我们谈起技术进步，通常听到的都是好消息。比如偏边远地区不是送货难吗？我们可以用无人机送货。农村教育资源有限是吧？我们可以让农民看电视学技术啊。技术肯定能给一部分人带来方便，但是要想全面解决一个社会问题，那可就太难了。就算是看似成功的实践，背后也不知道有多少意想不到的情况。

前不久蔚来汽车车主，在高速上启用自动驾驶功能后，发生车祸身亡。自动驾驶是否安全，再次引起人们的关注。国际汽车工程师学会把自动驾驶汽车一共分为五个级别。零级是完全没有自动化，就是人开车。一级，是指计算机在某种程度上给人提供一些辅助性的帮助。像自动刹车、保持车道、停靠辅助等。二级，是有的时候汽车可以自己开，但是要求人一直盯着，特斯拉已经做到了这个级别。三级以上人就可以不用盯着了。到目前为止，没有任何一家公司的自动驾驶技术超过二级。有专家认为，五级自动驾驶永远达不到，因为人工智能处理不了意外。当人们熟练开车后，看似简单，但是非常智能。我们可以看到各种交通信号与标志物，能随时判断路面状况。这种对路况的深刻理解，与我们的平时阅历、经验有关。但是人工智能却很难去区分前方道路上一只鸭子、一只鸟和一个塑料袋的区别。数据训练出来的人工智能未必能准确判断一切真实道路上的各种意外。这里面不仅包括技术问题，还有道德伦理的困境。如今，我们经常听到太多关于 “人工智能” 的话题，担心数据和算法会掌控一切。但这本书告诉我们，人工智能想大规模取代人类并不是一件容易的事情，它还有很长的一段路要走。至少，当我们开车时就不要依赖自动驾驶系统，买车时也不要听信销售的忽悠，那些自动泊车、自动跟车等等看上去很炫酷的功能在实际中，并没有什么用，开车还得靠自己。〈关注公众号 DoctorCC，获取本书听书红包。〉

现阶段人工智能确实离想象中的还有很大的差距。在各个领域都在追求数字化的今天，人的大脑可以被数字化吗？机器真的会产生意识吗？这些问题目前还没有定论，我相信技术会在沉寂一段时间后迎来爆炸，颠覆你我的想象，同时我也相信技术的发展是有上限的，上限是客观存在的，人类是无法突破的。在我看来，也许人工智能会成为人类得力的助手，但要想机器人拥有人的意识和思想，我觉得不可能。书中还写到了，科技应用涉及到的道德伦理层面的问题。在谈自动驾驶技术时，作者提出了那道著名的 “电车难题”。自动驾驶在面对撞一个人，还是撞多个人，抑或是保全自己时，会如何选择？这些算法如何来定？算法背后会不会存在某些无意识的偏见？何况把这些道德判断交由一种算法，情感上是难以接受的。

基本知识的罗列没有自己的分析观点

有一些代码，但很简单。讲到了计算机的基本原理、机器学习的概念和方法。特别是对通用人工智能好和狭义人工智能的阐述能够很好地帮我们理解当前发生的技术变革，比如 GPT。害怕和狂热都不可取，而消除困惑和狂热的唯一方式是获得新知，调整认识。本书值得花上一个小时

这本书呢，一个是标题很值得思考，就是说 AI 其实不一定能代表一切，但是你要去学习使用 AI 的技术的思维，还有一个非常有启发的一句话就是当你是一个锤子的时候，你看到的所有的东西都是钉子，就好比当你是妓女的时候，你认为所有的女人都应该被卖。

我们谈起技术进步，通常听到的都是好消息。比如偏边远地区不是送货难吗？我们可以用无人机送货。农村教育资源有限是吧？我们可以让农民看电视学技术啊。技术肯定能给一部分人带来方便，但是要想全面解决一个社会问题，那可就太难了。就算是看似成功的实践，背后也不知道有多少意想不到的情况。我在大学曾经选修过一门课叫《软件工程》。当时软件工程在中国刚刚起步，还没有多少开软件公司一夜暴富的神话，但是给我们讲课的老师当时在外面也接了一些小活儿，他有丰富的实践经验。比如，他帮一个超市做进货、销售和存货的计算机管理系统，系统做好了，运行起来之后发现计算机显示的库存和实际总对不上账。老板就说你这个系统是不是没搞好啊？其实不是系统有问题，而是超市员工一直都在偷拿东西。在这样的情况下，你怎么还能把软件给做成和运行起来，这也是软件工程的一部分。所以，技术的确经常能让事情更有效率，但写程序的是人，录入数据的是人，使用系统的是人。如果不解决人的问题，技术终究不能解决真正的社会问题。

不敢苟同作者的结论，作者从各种角度罗列了多个计算机算法（程序？）可能犯的和已经犯了的偏差和错误。借此说明人工智能算法和其他算法一样会犯各式各样的错误。由于用于训练的数据本身就存在偏差，确实会导致这些问题。但这并不意味着只有计算机才会犯这样的错误，作为人本身，如果接触到的数据也是有偏差的，同样会犯类似的错误。但是为什么人可以意识到问题并且会进行自我修正，机器就不可以呢？我认为这只不过是因为人学习过的知识更多，在大量各式各样的人生经历中树立了自己对事物正确还是错误的基本判断原则。如果计算机算力达到人脑级别，也有能力获得类似的学习，我认为一样可以达到人的判断能力，甚至在某个时间点迅速超越人的智力

当今的社会都夸大了人工智能的作用，它本身非常依赖统计的支持，也需要硬件的支持。因为它不能有向前扩展的能力，而好莱坞忽略了这点。人工智能的学习能力惊人的原因它的数据足够庞大，人类社会不能过往的数据，否则人类就智能停滞。

《人工不智能》作者是梅瑞狄斯・布鲁萨德，人工智能专家、数据记者和纽约大学助理教授。她曾创造过几个人工智能系统，对人工智能具备深刻的业内眼光。与当今流行的鼓吹人工智能的论调不同，本书充分论证了当前人工智能存在的种种局限，有理有据地向读者说明：人工智能其实并不像人们想象的那么智能。在技术问题之外，本书还从社会的视角向读者提出告诫：高估人工智能，过度依赖计算机，可能会导致一系列的社会问题。人们不应该假设计算机能够永远正确，如果人们能够认识到技术使用的局限性，可以让技术更好地造福人类。人工智能想大规模取代人类并不是一件容易的事情，它还有很长的一段路要走，我们对于人工智能的恐慌，其实都是在过度想象。现实中，从人员招聘到自动驾驶，从支付餐费到选择伴侣，人们迫切地想要将所有事情数字化。这种将计算机技术应用到生活方方面面的热情，导致出现了大量存在设计缺陷的系统，带来了一系列社会问题，所以我们需要正确认识人工智能。作者反对 “技术是永远的解决方案” 的 “技术沙文主义”，并提醒人们，一个数字化的 “乌托邦” 不能解决所有社会问题。为验证其观点，她进行了一系列尝试，如使用人工智能技术探究学生为何不能通过标准化测试、采用机器学习来预测泰坦尼克号事故中有哪些乘客幸存等。现在人们非常爱说 “计算机改变了世界”，“这个产品再一次改变了世界……”，作者布鲁萨德将会告诉你，其实计算机没有改变什么。社会还是这个社会，计算机并没有解决我们的社会问题。有些好消息说得太多，就容易让人产生不切实际的希望。不切实际的希望太强，就容易变成迷思。事实上，担心的那种未来离我们还非常遥远，现在所谓人工智能还没有那么厉害，人类已经反应过来了，可以预见的近期内不会有什么人工智能导致的大失业。这本书是想让人们进一步冷静一下。我们谈起技术进步，通常听到的都是好消息。比如偏边远地区不是送货难吗？我们可以用无人机送货。农村教育资源有限是吧？我们可以让农民看电视学技术啊。技术肯定能给一部分人带来方便，但是要想全面解决一个社会问题，那可就太难了。就算是看似成功的实践，背后也不知道有多少意想不到的情况。技术的确经常能让事情更有效率，但写程序的是人，录入数据的是人，使用系统的是人。如果不解决人的问题，技术终究不能解决真正的社会问题。计算机和人工智能擅长解决定义良好的工程问题，而社会问题往往不是定义良好的。在自动驾驶这个看似纯工程的领域，人工智能也存在很大的局限：不安全，不道德，不能促进商业平等。对于公平，人类社会存在不同的标准，人工智能无法改变社会问题的本质。

信息密度较低。好莱坞版本的具有意识的人工智能是梦想，而现实是狭义人工智能就是纯粹的数学。人工智能能回答任何一个答案基于数学原理的问题，而且可以给出最有可能正确的答案。人工智能的一切都跟定量预测有关，它其实是加强版的统计工具。但是社会问题的决策不仅仅只有计算，如果仅用数据来做涉及社会和价值判断的决策，那么社会问题就会随之而来。人们熟知的自动驾驶，各种识别技术其实都可以通过技术实现，只是时间问题，实际上无人驾驶是卡在了一个伦理道德的问题上，如果车的前面有 3 个人和侧面有 1 个人，一定要撞上一边的时候，要选择撞向哪边？据说奔驰公司是决定优先拯救驾驶员和车里的乘客。也就是说如果当奔驰冲向一群过马路的孩童，它本可以选择撞向旁边的树，但是它的程序将决定它冲向孩童，因为这是最有可能保护驾驶员的方案。但是如果是人类，则有可能选择撞树，因为孩子们是未来的花朵。所以，不要过度迷信技术，面对人类本性相关的复杂问题时，技术并不是解决一切的答案。也许人类和最高效的机器结合起来协作前进的方式才是最优解。

一般，更多科普性质