如何创造可信的AI ( etc.) (Z-Library)

版权信息 本书纸版由浙江教育出版社于2020年5月出版 作者授权湛庐文化（Cheers Publishing）作中国大陆（地区）电子版发 行（限简体中文） 版权所有·侵权必究 书名：如何创造可信的AI 著者：盖瑞·马库斯　欧内斯特·戴维斯 电子书定价：80.99元 REBOOTING AI: Building Artificial Intelligence We Can Trust by Gary Marcus and Ernest Davis Copyright © 2019 by Gary Marcus and Ernest Davis Simplified Chinese translation copyright © 2020 by Cheers Publishing Company Published by arrangement with authors c/o Levine Greenberg Rostan Literary Agency Through Bardon-Chinese Media Agency All rights reserved.

纽约大学 　　心理学和神经科学教授 盖瑞·马库斯本科就读于美国汉普郡学院。本科时期，马库斯打破当时 学校的常规，自我设定认知科学为主攻专业。在麻省理工学院学习期间，马 库斯师从著名心理学大师史蒂芬·平克（Steven Pinker）教授，23岁就获 得了博士学位。马库斯在他的博士论文工作中做了大量研究儿童学习英语的 实验，其研究成果为现代认知科学发展做出了非常重要的贡献。 博士毕业后，马库斯在纽约大学担任心理学和神经科学教授，推动了一 系列有影响力的学术研究，跨越计算机科学、认知科学、语言学和心理学等 多个领域，在《自然》《科学》等顶级国际期刊上发表了多篇文章。 马库斯在学术研究过程中形成了越来越完整的学术理念，对认知科学和 人工智能的学术研究发展方向也形成了清晰的观念，在国际认知科学和人工 智能领域享有一席之地。 马库斯一直在追求科学真理，并敢于挑战当下关于人工智能的主流观 点。他撰写了许多文章，发表了许多演讲，来指出当下人工智能存在的弊端 和局限性。他不仅是独树一帜的科学家，也是颇有成就的创业者和企业家。

2014 年 ， 马 库 斯 创 立 了 机 器 学 习 公 司 几 何 智 能 （ Geometry Intelligence），并担任CEO。由于其出色表现，该公司于2016年被优步收 购。随后，马库斯在优步创建了人工智能实验室，成为其第一任首席科学 家。该实验室旨在集中精力提高食品运输速度，并改善自动驾驶汽车的导航 性能。 离开优步之后，盖瑞·马库斯联合全球著名的机器人专家罗德尼·布鲁 克斯（Rodney Brooks）等人一同创立了一家名为Robust.AI的新公司，并 担任CEO。这是一家致力于机器人行业革新的创业公司，专注于人工智能认 知引擎研发，并以机器人为主要应用对象，促使机器人能够智能、协作、强 大、安全，实现真正的自主，并能应用于范围广泛的领域中。

作者演讲洽谈，请联系 speech@cheerspublishing.com 更多相关资讯，请关注 湛庐文化微信订阅号

赞誉 在言必称AI的年代，《如何创造可信的AI》这本书无疑是一副清醒剂。 忘掉深度学习，回归常识推理，更加精彩的AI之路在于深度理解。 段永朝 苇草智酷创始合伙人 AI何去何从？这本书对这个问题做了极为冷静透彻的解析。作者指出， AI发展的方向是在人类心智的内在结构中探索，即使这不是唯一方向，也是 极其重要的方向。非常值得一读！ 傅小兰 中国科学院心理研究所所长，中国科学院大学心理学系主任，中国心理学会 原理事长 深度学习的成功实践，激励了资本、学者、媒体、产业人士对人工智能 的拥抱。我们有的不明其就，也有的一叶障目。本书作者是权威的专业人 士，以通俗易懂的方式，讲解了当今人工智能的局限性，以及如果要通向未 来，还必须解决的关键问题。每一位拥抱人工智能的非专业人士，以及还不 够精通人工智能的从业人员，都将从此书中获得收益。 王小川 搜狗CEO 本书对当前AI的发展状况进行了清晰客观的评估，解释了当今AI技术 的“狭隘”性。作者从深度学习算法固有的缺陷出发，阐述了当下AI技术发 展的桎梏，同时对当前AI技术在多场景应用中遇到的问题进行了分析，探讨 了解决常识问题的指导方案，指出可以通过增加实践检验、搭建安全监管与 预防体系等方式提升AI技术的安全可靠性。最终，本书以通用人工智能为发 展目标，给出了未来AI技术的一种发展方向。 本书既为初学者提供了一个了解AI技术当前发展状况及未来发展方向的 窗口，又为专业人士研发可信的AI提供了有价值的建议。这本书对金融及健 康领域AI产品的研发具有一定的指导意义。

肖京 平安集团首席科学家 人工智能不等于深度学习，深度学习不能解决所有问题。人工智能发展 史上素有符号派和联结派之争，本书的两位作者偏符号派，他们对深度学习 的批评是善意的，所开的药方是常识理解。本书对内行外行都有价值。 尼克 乌镇智库理事长，《人工智能简史》作者 马库斯和戴维斯是人类智能和机器智能方面的专家，他们清晰地揭示了 如今的人工智能能做什么和不能做什么，并指出了通往更少“人工”、更 多“智能”的道路。 史蒂芬·平克 心理学大师，语言学家，《当下的启蒙》《心智探奇》作者 人工智能的成就、前景、陷阱和错误的开端是什么？如何才能补救和克 服这些呢？本书清晰而深刻的叙述，对人工智能这一必将对社会秩序和知识 文化产生重大影响的技术的发展，提供了宝贵的指导。 诺姆·乔姆斯基 现代语言学之父，认知科学领域创始人之一 我完全赞同马库斯在《如何创造可信的AI》中的观点，人工智能领域充 斥着甚嚣尘上的“微小发现”，但距离真正达到人类水平的智能还差得远着 呢。 朱迪亚·珀尔 图灵奖得主，《为什么：关于因果关系的新科学》作者 这本书告诉我们什么才是人工智能，而什么不是，以及如果有足够的雄 心和创造力，人工智能就可以成为什么。不管今天的智能机器有多聪明、多 有用，它们都不知道什么才是真正重要的。 加里·卡斯帕罗夫

前国际象棋冠军 这是一副受欢迎的解毒剂，可以消除过去10年席卷人工智能领域的炒 作，让人们现实地看到人工智能和机器人技术还有很长的路要走。 罗德尼·布鲁克斯 麻省理工学院计算机科学和人工智能实验室前主任 这本书道出了许多人工智能专家的真实想法，每个CEO都应该读一读， 公司里的其他人也应该读一读。这样，他们就能把麦子和糠秕分开，知道我 们在哪里、要走多远、怎样才能到那里去。 佩德罗·多明戈斯 华盛顿大学计算机科学教授，《终极算法》作者 戳穿炒作，并为真正成功的人工智能规划一条新道路。这本书让我们第 一次理性地看到人工智能能做什么和不能做什么，以及构建可信的人工智能 需要什么。 安妮·杜克 畅销书《对赌》作者 人工智能正在许多狭窄的应用领域实现超人的性能，但现实是，我们离 拥有真正理解世界的人工智能还有很远。马库斯和戴维斯用幽默的文笔和敏 锐的洞察力解释了当前方法的缺陷，并提供了一条引人注目的道路，以通向 那种能够赢得我们信任的强大的人工智能。 埃里克·布莱恩约弗森 麻省理工学院教授 在《如何创造可信的AI》中，马库斯和戴维斯做了一项伟大的工作，他 们将真相与胡扯分开，以说明为什么我们现在可能不会有真正的人工智能， 以及可以做些什么来进一步接近它。 佩恩·吉莱特 艾美奖得主，魔术师兼演员，《纽约时报》最佳朗诵作家

这本书读起来很刺激，巧妙地揭示了为什么今天的人工智能在完成真正 的智能任务时如此困难，以及如何才能实现这个目标。 克莱夫·汤普森 《连线》杂志专栏作家 在可预见的未来，机器会取代人类吗？还是这只是炒作？马库斯和戴维 斯用坚定的理念和优美的文笔阐述了他们的答案，将今天基于深度学习的、 狭隘而脆弱的人工智能与永远难以捉摸的通用人工智能区分开来。人类固有 的常识和信任成为这一领域的重大挑战。如果你打算读一本书来跟上AI发展 的步伐，这本书是一个不错的选择！ ——奥伦·埃齐奥尼 艾伦人工智能研究所CEO，华盛顿大学计算机科学教授

推荐序 可信的AI 陆奇　奇绩创坛创始人兼CEO，百度前总裁兼COO， 微软前全球执行副总裁，雅虎前执行副总裁 我很高兴能为盖瑞·马库斯的新著《如何创造可信的AI》作序。鉴于这 本书主题的重要性，我尝试从三个不同的角度为中国读者提供背景信息与书 中核心内容的概述，希望有助于读者更有效地从阅读本书中获益。 我先介绍一下马库斯的个人背景，我认为他特殊的学术和行业履历能帮 助读者更加全面地解读书中所表达的主要观点。马库斯在高中时代花了很多 精力去开发一套计算系统，目的是把拉丁语自动翻译成现代英语。虽然这个 项目没有成功，但整个过程让马库斯学到很多，特别是让他深切感受到要让 一个计算系统具备类似人类般的认知能力和语言理解能力，纯粹依赖计算能 力是远远不够的。他因此而形成的理念是，一个计算系统具备认知能力和语 言理解能力的前提，是该系统必须具有一定程度的内在结构。 为了继续他在科学上的追求，马库斯在大学本科时期打破当时学校的常 规，自我设定了认知科学作为主攻专业。在麻省理工学院学习期间，他师从 世界著名心理学大师和认知科学家史蒂芬·平克教授。马库斯在他的博士论 文工作中做了大量研究儿童学习英语的实验，他的研究成果为现代认知科学 发展做出了非常重要的贡献。博士研究生毕业后，马库斯在纽约大学担任心 理学教授，推动了一系列有影响力的学术研究，跨越计算机科学、认知科 学、语言学和心理学等多个领域。 与此同时，马库斯在学术研究过程中形成了越来越完整的学术理念，对 认知科学和人工智能的学术研究发展方向也形成了一系列清晰的观念，这一 切可以从他所撰写的一系列学术著作中体现出来：《代数思维：连接主义与 认知科学的融合》（The Algebraic Mind: Integrating Connectionism and Cognitive Science）、《思维的诞生：一小部分基因如何创造了人类思 维的复杂性》（The Birth of the Mind: How a Tiny Number of Genes

Creates the Complexities of Human Thought）、《克鲁格：人类思维的 偶然构建》（Kluge: The Haphazard Evolution of the Human Mind） 等。 通过这些研究工作，马库斯在认知科学和人工智能等领域的国际学术界 也享有了特殊的一席之地，一方面源于他所做的学术研究为这样的地位奠定 了重要基础，另一方面源于他杰出的跨学科综合科研能力。他在计算机科 学、认知科学、语言学、人工智能等领域都练就了相当深厚的学术功底，更 重要的是，马库斯一生追求科学，通过长期努力打造了一套自己的学术理念 和体系。在追求科学真理的道路上，他敢于挑战学术界的主流观点。马库斯 学术功底深，思路敏捷，能言善辩，敢于独树一帜。当整个人工智能学术界 都在过分乐观地高歌猛进时，他不断撰文和发表演讲来指出许多人工智能核 心技术中存在的弊端和局限性。他坚信自己的学术理念，不认同当今学术界 的主流方向能把人工智能从今天带到未来。他敢于站出来泼冷水、唱反调， 并敢于向人工智能学术界泰斗如杨立昆（Yann LeCun）等人发起多次公开 辩论，因为马库斯深信这是追求科学真理所必需的。 更为重要的是，马库斯不仅是独树一帜的科学家，也是一个颇有成就的 企业家和创业者，并专注于人工智能技术的开发与应用。他不但在学术上坚 持自己的理论和方向，同时也把自己的学术理论和发展方向付诸实践。他在 2014年创建了机器学习公司“几何智能”，由于在技术和应用上都做得相当 不错，公司于2016年被当时如日中天的优步成功收购，马库斯也由此加入优 步成为其第一任首席科学家。离开优步之后，马库斯联合著名机器人专家罗 德尼·布鲁克斯等人一同创立了一家名为Robust.AI的新公司，公司专注于新 一代的人工智能认知引擎研发，并以机器人为主要应用对象。我们可以看 出，马库斯在本书中阐述的核心观念并不是纸上谈兵，而是在实际的创业创 新过程中被不断验证和迭代的。 多年前，我在工作中认识马库斯之后，便一直保持联络，我们在人工智 能的学术研究和实际应用上有着长期的交流。我也阅读了马库斯过去的著 作，听了他重要的学术演讲。我之所以花时间将马库斯的背景信息介绍给读 者，是因为马库斯在本书中所阐述的核心内容是承上启下的。书中的内容既 建立在过去累积的学术观念和理论之上，也是他对人工智能的现状和下一步 发展方向所做的完整总结与梳理。马库斯以打造“可信的AI”为主题贯穿全

书的内容。这里需要指出的是，马库斯所持有的观点在学术界和行业内是不 无争议的。这样的争议在人工智能从今天走向未来的过程中，是健康的，也 是必要的。重要的是，我们需要让每位读者都有一个全面的背景认知，以便 更有效地从本书中获得有价值的信息、观点、方法论和启迪，不论读者是对 作者的科学研究背景感兴趣，还是对开发人工智能技术应用有兴趣，不论读 者是创业者，还是企业管理人员。 本书的内容由两大部分组成。第一部分是第1章到第5章，马库斯非常详 细和系统化地分析了今天以深度学习为基础的主流人工智能技术所面临的局 限性。针对每一类被揭示出来的局限性，马库斯充分发挥了他对自然语言处 理、机器人和计算机视觉等领域的科研经验和深刻理解，通过生动易懂的案 例把这些技术局限性的现象和原因清晰地描述给读者。马库斯强调在没有充 分理解人工智能技术目前局限性的情况下大量开发人工智能应用将承担相当 大的风险。为了帮助读者更方便地理解和判断这些风险，马库斯把这些局限 性详细分成了9个类别，包括鲁棒性的缺失等。 第一部分的中心内容是马库斯对人工智能的核心技术——深度学习所提 出的一系列质疑。这里采用了一系列具体案例和推理来强调我们必须在深度 学习的基础之上探索新的技术突破。马库斯充分发挥了他在人工智能核心领 域以及跨领域科研的实力。从深度学习核心算法的内在体系开始，贯穿多项 人工智能发展的前沿应用领域，比如语言理解和机器人等，马库斯深入浅出 地分享了对人工智能技术发展的核心观点：如果我们沿用目前以深度学习为 主的人工智能技术，而不在其内在结构上探索新的途径，以后将很难建立起 具有人类般的认知能力和真正意义上的智能系统。 在这里尤其要提出的是：在第一部分的开始阶段，马库斯花了大量篇幅 来分析今天人工智能技术被媒体所报道的能力与目前人工智能技术能够实 际“落地”的能力之间的对比，指出这两者之间存在严重的脱节。马库斯指 出了学术界所存在的浮夸现象以及有些媒体过分乐观的炒作，将这种人工智 能报道与现实之间的严重脱节叫作“AI鸿沟”。他认为如果在推进人工智能 科研和应用开发的过程中不能清晰地意识到这个鸿沟的话，我们将会踩很多 坑。我们都知道人工智能技术已经被广泛地应用，有一些是涉及关键使命 的，比如自动驾驶系统，有一些则对社会有着深远的影响，比如信息检索和 内容分发等。

特别是在应对目前全球面临的由新冠疫情带来的前所未有的挑战中，人 工智能技术将起到越来越关键的作用。在这样的关键时机下，做出正确的判 断并避免踩坑将是至关重要的。为此，马库斯追根溯源把“AI鸿沟”归纳为 三种“大坑”。第一是“轻信坑”，这是由于人类进化的现实过程还没有发 展出清晰辨别人类与机器之间区别的能力，导致我们往往用基于人类的认知 模式去看待机器的能力，从而容易轻信机器拥有人类般的智慧。第二是“虚 幻进步坑”，每当AI技术的进展攻克了一类新的问题时，我们往往错误地假 设AI技术就能解决以此推及的、现实世界中的类似任务。但是AI学术上的问 题往往是定义在狭义而简化的假设下，而现实世界的具体任务都有很大的复 杂性和不确定性。第三是“鲁棒坑”，受限于当前深度学习算法和训练数 据，对容错性很低特别是使命关键的应用领域比如无人驾驶等，今天的AI还 没能达到实际“落地”的能力。马库斯告诫我们必须关注“AI鸿沟”，因为 踩坑的代价是非常高的。 在这里我必须要指出，马库斯是人工智能技术的坚信者，并在人工智能 学术研究和实际应用上做了很多积极的推动工作。他也认为基于深度学习的 人工智能技术在过去十多年有了长足的进步，为一系列商业化应用做出了重 要贡献。马库斯质疑当前主流的人工智能技术，是希望学术界和其他相关行 业能一起更有效地克服目前人工智能技术的局限性，探索新技术上的突破， 从而真正实现可信的AI。 本书的第二部分是第6章到第8章，在其中马库斯提出了他认为的能通向 未来可信AI的核心路径。这一路径的起点是在研究人类如何获得认知能力时 所获得的核心启发，并以此建立下一代人工智能技术中必要的内在结构。这 里的核心理念是马库斯在长期跨学科科研探索中逐渐建立起来的，我们可以 从库斯马早期的学术著作中看到相应的端倪。马库斯以认知科学、心理学、 语言学和哲学为基础提取出11条关键线索，认为这将对未来人工智能技术在 发展过程中达到具备人类智能的鲁棒性起到关键作用。这些线索的共同核心 是用内在更丰富的结构来表达信息、建立认知、建立起其他智能体系的核心 要素，比如因果推理能力等。 在第二部分中，马库斯还强调了常识在实现未来通用人工智能中的重要 性。对于如何建立常识，书中的内容充分体现了马库斯作为一个跨学科的学 者和跨行业的企业家、创业者所拥有的综合能力，既有核心的科学原则又有

务实的系统操作：从表达时间、空间和因果关系开始，建立一个有足够灵活 性的框架并以此来连接感知、操作、语言的能力，并能不断地从环境以及与 环境交互中学习，同时将先验与学习有机地融合在一起。这将是一个非常艰 巨的任务，但马库斯认为这是必需的工作，是建立真正智能体系的必经之 路。 最后，马库斯讨论了几个建立可信的AI所需要的实际能力。首先，我们 要有能力来工程化地、有效可靠地开发AI系统与应用。正如计算机科学早期 发展的历史一样，软件开发工具和开发流程是经过计算机软件工程这门子学 科多年的努力才逐渐建立起来的，我们需要同样的努力来逐步打造工程化开 发AI系统与应用的能力。其次，确保AI系统的安全性需要全新的开发与运营 能力，尤其是关键使命的AI应用。最后，AI系统，比如机器人，需要其创造 者赋予正当的道德伦理观念，类似于美国科幻作家艾萨克·阿西莫夫（Isaac Asimov）提出的机器人三定律。只有具备这些实际能力，我们才能真正创造 可信的AI。 众所周知，人工智能是目前为止人类历史上创新潜能最大的技术发展浪 潮。在未来的几十年里，它不但能诞生全新的大规模基础产业，也能极大程 度地提升和改造所有现有行业。人工智能技术及应用所产生的商业价值和社 会价值将是空前的。但要推动人工智能的健康发展，我们需要不断推进人工 智能核心技术的进步，以及各种人工智能应用的开发和实践。这将是一个持 久的过程，需要学术界和产业界一起合作，需要看到不同的理念、听到不同 的声音、表达不同的想法，在一个健康良好的环境中不断交流、撞出火花， 更好地探索科学的真理，加速人工智能的进展。 尽管不无争议，但《如何创造可信的AI》为我们提供了丰富的内容和理 念。我希望，也相信中国的读者都能在阅读本书的过程中有所获益。

扫码获取“湛庐阅读”App 搜索“如何创造可信的AI” 获取更多精彩内容

献给 我的孩子亚历山大和克洛伊 他们教会了我很多 献给 我的妻子雅典娜 她和我一样热衷于向孩子们学习 盖瑞·马库斯 献给 一生挚爱，我的妻子比安卡 欧内斯特·戴维斯

虽说这一波理论潮流让我们这些业内人士欣然振奋，但同时也潜藏了危 险的元素。我们相信，信息论能针对通信问题的本质提供根本性见解，是非 常有价值的工具，其重要性也会日趋增长，但信息论却不是通信工程师的万 金油，也不是其他人可以信手拈来的万灵药。自然界的诸多谜团不会被一下 子轻易破解。当人们意识到仅凭信息、熵、冗余等令人激动的几个词并不能 解决所有问题的时候，这场人造的繁荣局面就会在一夜之间坍塌殆尽。 克劳德·香农 信息论创始人 傻子都能“知道”。关键在于“理解”。 阿尔伯特·爱因斯坦(1)