按照以前的算法，当计算机产生结果时，我们感觉是我们在智力上掌握了它。但新的机器学习程序是完全不同的。通过深层神经网络识别出模式后，它们会得出结论，而我们完全不知道这是怎么回事。有一天，计算机很可能会得到一个全新结果，例如得到一个数学定理，关于这个数学定理的论证，甚至对它的描述，都没有人能理解。有些人可能认为我们自己也不知道我们的大脑是如何得出结论的，这些新方法只是模仿人类大脑学习的一种方式。但是，这种理解能力的潜在缺失令人不安。

未来已来

这是一本不可多得的好书，初看名字时，可能很容易错过它。本书的作者从一开始想做的一个事情，就是汇集最聪明的 100 个头脑，让大家在同一个地方，说出各自自己领域比较难解的问题，进行头脑风暴。这本书中的二十几位作者，符合最聪明的头脑这个特征，而讨论的主题则集中在人工智能。书中探讨的主题范围非常丰富，从深度学习是一个黑盒子，到什么样的智能机器是最符合未来发展前景的。提到人工智能，就不能不提到机器人，机器人的核心是控制，最早维纳的《控制论》和《人有人的用处》是两本非常经典的控制领域的著作。而本书中大部分作者，都针对和围绕这两本书来阐述他们自己的观点。书中很多想法非常开脑洞，我总结几个令我受到启发的观点，分享给大家。1. 弗兰克斯坦：语言的极限就意味着我的世界的极限。2. 基于深度学习的计算机系统，越来越 “补充”，而非 “替代” 人类。3. 深度学习有自己的动力学机制。自我修复，找出最优组合。大部分时候，它都能给出正确的结论。但是当它给出错误的结论是，我们也很难发现原因。4. 人工智能的三大定律：（1）任何有效的控制系统，必须与它控制的系统一样复杂。（2）一个复杂系统的定义特征一定包含对其行为的最简单的描述。（3）任何一个简单到可以理解的系统，都不会复杂到可以智能化行事。而任何一个复杂到可以智能行事的系统，都会因为太过于复杂而无法理解。5. 维纳预测到了智能机器的危机：这样的机器虽然，本身没有杀伤力，但是它可以被一群人所利用，以加强对其他种族的控制。6. 弗朗西斯克里克：意识，也称为心智，是物质的一种涌现性。7. 有界最优性：有界最优主体并不总关注选择正确的行动，它们更关注的是找到正确的算法，在犯错误和思考太多之间找到平衡。8. 智能系统依靠损失函数的局限性。举个例子，一个智能扫地机器人，如果损失函数是尽可能吸入多的灰尘，依据吸入的灰尘量来奖励它，结果这个机器人就决定把灰尘都倒掉，这样它就能够把灰尘再吸进去，获得更多的奖励。这是《人工智能：一种现代的方法》中提到的一个很好的例子。9. 文明的表达方式的三种层次：（1）遗传：知识传播的一种方式是遗传。（2）自然语言：我们这个物种取得的巨大的成就。（3）编程：基于知识的编程。以上就是我获得的启发。这本书也推荐给你，希望大家也可以获得自己的启发。

人工智能与 4 岁的儿童的对比。尽管孩子们不擅长计划和做出决策，但他们是宇宙中最好的学习者。1. 人类学习和获取知识的两种方法：自下而上和自上而下，代表人物分别是是亚里士多德和柏拉图。我个人对这两种学习方式的理解：我们在得到大学学到了 48 种思维模型，然后将这些思维模型用于实际的生活和工作当中去解决具体的问题，这叫自上而下。我们通过自己过往的经验积累和摸索精进，总结出一套自己的思维模型，这叫自下而上。这两种方法现在仍然是机器学习的主要方法：自上而下的贝叶斯模型，由生成模型进行演绎。贝叶斯模型可以让你在给定数据的情况下，计算出一个特定假设为真的可能性有多大。自下而上的深度学习，给机器投喂数以百万的数据，然后让机器从中提取数据的特征模式。这两种机器学习方法优缺点互补。在自下而上的方法中，开始时程序不需要太多的知识，但是需要大量的数据，而且它归纳总结的方法有限。在自上向下的方法中，程序可以从几个示例中学习，进行更广泛、更多样化的归纳，但是开始时你需要在其中构建更多的内容。许多研究者目前正试图将这两种方法结合起来，使用深度学习来实现贝叶斯推理。

作者聚集了 25 位大佬，各自畅享人工智能的未来。“大佬” 包括哲学家、心理学家、认知科学家、物理学家、计算机科学家等等等等，提出了非常多的视角，很开脑洞。

本书更多侧重于人工智能伦理方面的研究讨论。特别针对人工智能和人之间关系，结合 “现实俱乐部” 中不同行业专家对人工智能的专业看法，例如从艺术、医学、法律、哲学、生物、社会等等领域的视角，来跨学科看待这个关系，理解更加立体、更加丰富、更加深刻、更加融合。同时通过阅读此书，也帮助激发起对控制论的兴趣，特别是维纳的 “人有人的用处” 这本书。

怎麼知道我有沒有因果推理的能力呢？我可以從數據或事實當中建立如果… 那麼… 我可以想出很多的干預活動讓上述的場景或者系統做出不同的行為或得到不同的結果我可以想到很多的相反的事實來證明，我的預測是錯的從這個觀點來看我們可以多多的學習實驗設計的手法，因為這是證明我們跟人工智能最大的差別最大的不同之處以後也可能會變得是人真正的價值所在

书中从多个角度探讨了人工智能的定义、发展及其对人类社会的深远影响。例如，朱迪亚・珀尔指出当前机器学习系统的局限性，强调了模型透明度的重要性；而迈克斯・泰格马克则从宏观角度展望了人工智能对人类未来的深远意义。这些观点不仅涵盖了技术层面的思考，还涉及了哲学、伦理和社会学等多个领域，为读者呈现了一场跨学科的思想盛宴。这本书最大的魅力在于其多元化的视角和开放性的讨论。它没有给出一个确定的答案，而是通过 25 位思想家的独立思考，展示了人工智能的多种可能性。