按照以前的算法，当计算机产生结果时，我们感觉是我们在智力上掌握了它。但新的机器学习程序是完全不同的。通过深层神经网络识别出模式后，它们会得出结论，而我们完全不知道这是怎么回事。有一天，计算机很可能会得到一个全新结果，例如得到一个数学定理，关于这个数学定理的论证，甚至对它的描述，都没有人能理解。有些人可能认为我们自己也不知道我们的大脑是如何得出结论的，这些新方法只是模仿人类大脑学习的一种方式。但是，这种理解能力的潜在缺失令人不安。

未来已来

这是一本不可多得的好书，初看名字时，可能很容易错过它。本书的作者从一开始想做的一个事情，就是汇集最聪明的 100 个头脑，让大家在同一个地方，说出各自自己领域比较难解的问题，进行头脑风暴。这本书中的二十几位作者，符合最聪明的头脑这个特征，而讨论的主题则集中在人工智能。书中探讨的主题范围非常丰富，从深度学习是一个黑盒子，到什么样的智能机器是最符合未来发展前景的。提到人工智能，就不能不提到机器人，机器人的核心是控制，最早维纳的《控制论》和《人有人的用处》是两本非常经典的控制领域的著作。而本书中大部分作者，都针对和围绕这两本书来阐述他们自己的观点。书中很多想法非常开脑洞，我总结几个令我受到启发的观点，分享给大家。1. 弗兰克斯坦：语言的极限就意味着我的世界的极限。2. 基于深度学习的计算机系统，越来越 “补充”，而非 “替代” 人类。3. 深度学习有自己的动力学机制。自我修复，找出最优组合。大部分时候，它都能给出正确的结论。但是当它给出错误的结论是，我们也很难发现原因。4. 人工智能的三大定律：（1）任何有效的控制系统，必须与它控制的系统一样复杂。（2）一个复杂系统的定义特征一定包含对其行为的最简单的描述。（3）任何一个简单到可以理解的系统，都不会复杂到可以智能化行事。而任何一个复杂到可以智能行事的系统，都会因为太过于复杂而无法理解。5. 维纳预测到了智能机器的危机：这样的机器虽然，本身没有杀伤力，但是它可以被一群人所利用，以加强对其他种族的控制。6. 弗朗西斯克里克：意识，也称为心智，是物质的一种涌现性。7. 有界最优性：有界最优主体并不总关注选择正确的行动，它们更关注的是找到正确的算法，在犯错误和思考太多之间找到平衡。8. 智能系统依靠损失函数的局限性。举个例子，一个智能扫地机器人，如果损失函数是尽可能吸入多的灰尘，依据吸入的灰尘量来奖励它，结果这个机器人就决定把灰尘都倒掉，这样它就能够把灰尘再吸进去，获得更多的奖励。这是《人工智能：一种现代的方法》中提到的一个很好的例子。9. 文明的表达方式的三种层次：（1）遗传：知识传播的一种方式是遗传。（2）自然语言：我们这个物种取得的巨大的成就。（3）编程：基于知识的编程。以上就是我获得的启发。这本书也推荐给你，希望大家也可以获得自己的启发。