展开全部

主编推荐语

畅销书作家布莱恩·克里斯汀作品,关于ChatGPT你需要了解的真相。

内容简介

如今的“机器学习”系统已具备非凡能力,能够在各种场合代替我们看和听,并代表我们做决定。但是警钟已经敲响。随着机器学习飞速发展,人们的担忧也在与日俱增。

如果我们训练的人工智能(AI)做的事情与我们真正的目的不符,就会引发潜在的风险和伦理问题。研究人员称之为对齐问题(the alignment problem)。

书中,我们将认识第一批积极应对对齐问题的学者,了解他们为了避免AI发展的局面失控,付出的卓绝努力和雄心勃勃的计划。

作者克里斯汀不仅精练地描绘了机器学习的发展史,并且亲自深入科研一线同科学家对话,准确呈现了机器学习最前沿的进展。

对齐问题还是一面镜子,将人类自身的偏见和盲点暴露出来,让我们看清自己从未阐明的假设和经常自相矛盾的目标。

本书是一部精彩纷呈的跨学科史诗,不仅审视了人类的科技,也审视了人类的文化,时而让人沮丧,时而又柳暗花明。

目录

  • 版权信息
  • 序篇
  • 导言
  • 第一篇 预警
  • 1. 代表
  • AlexNet的故事
  • 问题
  • 校准和设计主导权
  • 修正训练集
  • 分布假说:词嵌入
  • 嵌入的阴暗面
  • 消除词嵌入的偏见
  • 统计之镜中的自画像
  • 代表和显现
  • 2. 公平
  • 实践中的科学假释
  • 获取数据
  • 这不是公平
  • 公平的不可能性
  • 不可能之后
  • 超越预测
  • 3. 透明
  • 错误的规则
  • 黑盒问题
  • 临床与统计预测的比较
  • 非最适模型:知道该看什么
  • 最优简单模型
  • 显著性:机器学习的“眼白”
  • 告诉我一切:多任务网络
  • 打开盖子:特征可视化
  • 深度网络和人类概念
  • 第二篇 自主
  • 4. 强化
  • 数字试错法
  • 享乐主义神经元
  • 奖励假说
  • 多巴胺之谜
  • 策略和价值函数
  • 预测和奖励的神经基础
  • 幸福与误差
  • 超越强化
  • 5. 塑造
  • 稀疏问题
  • 课程的重要性
  • 微妙的激励
  • 防止你的奖励绕圈:塑造定理
  • 设计的奖励
  • 我们应该怎样训练自己?
  • 超越外部强化
  • 6. 好奇
  • 深度强化学习的超人表现
  • 好奇心是一门科学
  • 新奇
  • 惊讶的快乐
  • 超越奖励
  • 厌倦和上瘾
  • 出于自身
  • 第三篇 示范
  • 7. 模仿
  • 过度模仿
  • 模仿学习
  • 驾驶
  • 学会纠正
  • 悬崖边缘:可能主义与现实主义
  • 扩增:自我模仿与超越
  • 价值扩增
  • 8. 推断
  • 逆强化学习
  • 从示范中学习
  • 一看便知:根据反馈学习
  • 学会合作
  • 合作,无论好坏
  • 9. 不定
  • 从未见过
  • 知道自己不知道
  • 衡量影响
  • 可纠正性、遵从性和服从性
  • 道德不确定性
  • 结语
  • 代表
  • 公平
  • 透明
  • 自主
  • 模仿
  • 推断
  • 致谢
展开全部

评分及书评

4.6
17个评分
  • 用户头像
    给这本书评了
    5.0
    一本书理解对齐理论

    看过 Altman OpenAI 的宫斗剧之后,我一直是坚定的 AC 合理加速主义者,产生了一定的犹豫,看完这本书彻底明白了,值得每个关心 AI 发展的人看的一本超级好书!

      转发
      评论
      用户头像
      给这本书评了
      5.0

      抛开讨论的内容不说,我自己也是 ai 从业者,喜欢和羡慕人家有这种深度思考和广泛的讨论。

        1
        评论
        用户头像
        给这本书评了
        5.0

        1952 年,英国广播公司制作了一期节目,邀请了 4 位科学家进行圆桌对话,讨论计算机到底是不是真的会思考。其中一位嘉宾是图灵,他被誉为计算机科学和人工智能之父。图灵在节目里是这么说的:“的确,当孩子接受教育时,他的父母和老师会不断干预,阻止他这样做或鼓励他那样做。但是当人试图教机器时,情况就不一样了。我做了一些实验,教机器做一些简单的操作,在得到任何结果之前,需要大量这样的干预。换句话说,机器学得太慢了,需要大量的教学。” 这会儿,主持人插了一句:“是谁在学习呢,你?还是机器?”

          1
          评论
        • 查看全部6条书评

        出版方

        湖南科学技术出版社

        湖南科学技术出版社,系中南传媒旗下子公司。出版社以“弘扬科学精神,推动科技发展”为出版宗旨,推出一大批高品位、高格调、重实用、讲实效的科技佳作,如《时间简史》《医学临床“三基”训练》等。