酷应用

比尔·盖茨点名！无人驾驶汽车又双叒叕撞了,到底如何才能创造可信的 AI?

百家作者：互联网思想 2020-06-07 23:38:35

这是去年 11 月比尔·盖茨来华时接受采访的视频，在被问到正在阅读的图书时，这位微软联合创始人说：“我们昨晚在微软实验室还讨论了一本关于人工智能的书，名叫《如何创造可信的 AI》（Rebooting AI），作者是盖瑞·马库斯（Gary Marcus）。

现在人工智能领域的业内人士都在讨论这本书。他们一定完全认同书中的观点，但这本书确实能促使人们思考“我们什么时候能真正拥有好的机器人，机器人什么时候能像人类那样阅读”等问题。对关注人工智能的人来说，这是一本非常不错的书。”

盖瑞·马库斯, 欧内斯特·戴维斯
湛庐文化/浙江教育出版社

为什么现在要重新思考人工智能？——当下的 AI 还不可信

2012 年，我们经常听到人们谈起“自动驾驶汽车将在不久的将来成为现实”。

2015 年，Facebook 启动 M 计划，旨在打造一个有能力应对每一种需求的聊天机器人。

2016 年，IBM 宣称 AI 系统沃森（Watson）将在医疗行业掀起革命，解决从药理学、放射学到癌症诊断与治疗中存在的诸多问题。

但是，时至 2020 年，人工智能的这些发展目标还没有一件得到落实。

无人驾驶汽车的确存在，但它尚不能在“无人”状态下在城市之中或恶劣天气之下外出行驶，“自动巡航”模式下的特斯拉三番五次追尾停在路边的车辆。IBM 的沃森向医疗方向的转型早已冷却了下来，据报道称是沃森给出的一些建议“不安全、不正确”，还比不上医学专业一年级的学生。而 Facebook 的 M 计划在启动不到 3 年内也被叫停，现实中满眼看到的都是连门把手都打不开的机器人。

以深度学习为主的 AI 技术，难以建立真正的智能系统

理想的 AI 与现实的 AI 之间为什么会有这么大的差距？在人工智能领域中，最近深度学习掀起了一次大的浪潮，也是目前最受关注、获得投资最多的一类。在《如何创造可信的 AI》这本书中，盖瑞·马库斯分析了从深度学习算法固有的缺陷出发，阐述了当下 AI 技术发展的桎梏。

盖瑞·马库斯是优步人工智能实验室的前负责人，也是新硅谷机器人创业公司 Robust.AI 首席执行官兼创始人。他不仅是在认知科学和人工智能等领域都享有特殊的一席之地的科学家，也是一个颇有成就的企业家和创业者，并专注于人工智能技术的开发与应用，把自己的学术理论和发展方向付诸实践。

第一，深度学习并非机器学习唯一的方法，更非 AI 唯一的方法（人工智能>机器学习>深度学习）。

第二，在发展的过程中，深度学习也暴露出了 3 个核心问题。

「首先，深度学习是贪婪的。」 为了将神经网络中的所有连接都调校准确，深度学习就需要大量的数据。为什么 AlphaGo 会胜利？因为它要下 3000 多万盘棋，所经历的棋局数量远远超过任何一个人终其一生所下的数量，所以才达到了超人类的水平。一旦数据量减少，深度学习的表现水平也会急转直下。但是，在真实世界问题面前，根本不允许我们获取足够多的适用数据，这代表着系统的可靠性非常低。

「其次，深度学习是不透明的。」 神经网络如同“黑箱”一般，不管做什么，你只能看到结果，很难搞懂里面究竟发生了怎样的过程。学习某一个特定任务的神经网络，可能在某些测试中能拿到 95%的准确率。但之后呢?我们很难找到那 5%的错误背后的真正原因，而且这些错误中还包括正常人类不可能犯下的巨大的错误。

「再次，深度学习是脆弱的。」 深度学习在某个场景中可能臻于完美，而在另一个场景中却大错特错。归根结底，深度学习并没有那么深刻。很重要的一点，「深度学习这个说法中的“深度”二字，指的是神经网络中分层的数量，除此之外别无其他。」

迄今为止，深度学习还只能在控制良好、很少出现意外的环境中进行。围棋就是一个完美的环境，其规则和棋盘两千年来都未发生变化，但在现实世界的许多负责场景中，我们不会想要依赖这项技术。

从认识科学领域中学习，创造可信的 AI

刘慈欣在《三体》中提到，即使北宋床弩的射程和机关枪差不多，但两者在基本原理上的差距决定了它们之间的不同。

AI 研究也需要用“机关枪式的研究范式”取代“床弩式的研究范式”，神经科学告诉我们大脑是极为复杂的，真正拥有智慧和复杂性的系统，很有可能像大脑一样充满复杂性。任何一个提出将智慧凝练成为单一原则的理论，或是简化成为单一“终极算法”的理论，都将误入歧途。所以，只有建立一个全新的航道，才可能达到“可信任的 AI”这一目标。

马库斯以认知科学、心理学、语言学和哲学为基础提取出了多条关键线索，共同核心是用内在更丰富的结构来表达信息、建立认知、建立起其他智能体系的核心要素。

其一就是让机器学会用类似人类认知的方式，基于小数据做出决策。

人类对任何一个概念的认知，都取决于概念出现的上下文和其所属的理论框架。识别出不同的应用场景，不仅可以显著减少所需数据，还能够让 AI 变得更加可信任。如果 AI 可以区分画中的一把刀和真实场景下的刀，就可以做出不同的反应。

同时，人类会对每个事物和人的个体分别进行持续的观察和跟踪，以此来将不同时间点的数据进行统一的分析。这也是 AI 需要向人类学习的方式。

还有一点，用因果性替代相关性，构建关于自身和环境交互的因果模型。这一点和图灵奖得主朱迪亚·珀尔的观点完全一致。

围棋的棋盘形式和游戏规则构成了一个相对简单的因果模型，只有胜负的结果和单一的时间颗粒度，影响胜负的因素只有自己如何下棋。因此，和赢棋相关的走法，就等同于导致 AI 更强的算法改进。

但现实中，尤其是在 2B 的应用场景下，AI 需要在多维度和长时间尺度下，做出同时满足多种评价标准的决策，此时相关性就不等同于因果性。

推荐阅读

盖瑞·马库斯, 欧内斯特·戴维斯
湛庐文化/浙江教育出版社

这是一本对当下人工智能大潮的反思之作。让人们了解到人工智能领域的真实状况，不受宣传报道的欺骗。与「人工智能霸主统治人类」的夸夸其谈不同，这本书既诊断出了当下人工智能领域的真实疾病，也开出了切实可行的治愈良方。

关于人工智能的炒作总是甚嚣尘上，但要得到真正可信的 AI，却远比想象的要复杂得多，超级智能的时代还远没有到来。创造真正可信的 AI 需要赋予机器常识和深度理解，而不是简单地统计分析数据。《如何创造可信的 AI》指出 AI 真正的问题在于信任，以深度学习为代表的当下 AI 存在弊端和局限性，又从认知科学中提炼出了 11 条对人工智能发展方面的启示，以通用人工智能为发展目标，给出了未来 AI 技术的一种发展方向。

这本书的作者是谁？

盖瑞·马库斯

最懂大脑的人工智能大牛

2020年世界人工智能大会重磅演讲嘉宾

盖瑞·马库斯——这本书的第一作者，不仅是在认知科学和人工智能等领域都享有特殊的一席之地的科学家，也是一个颇有成就的企业家和创业者，并专注于人工智能技术的开发与应用，把自己的学术理论和发展方向付诸实践。

跨学科综合科研能力：在麻省理工学院学习期间，师从世界级心理学大师和认知科学家史蒂芬·平克教授。此后，在纽约大学担任心理学教授，推动了一系列有影响力的学术研究，跨越计算机科学、认知科学、语言学和心理学等多个领域。

成功的企业家和创业者：2014年创建机器学习公司“几何智能”，2016年被当时如日中天的优步成功收购，马库斯也由此加入优步成为其第一任首席科学家。离开优步之后，马库斯联合著名机器人专家罗德尼·布鲁克斯等人一同创立了一家名为Robust.AI的新公司，公司专注于新一代的人工智能认知引擎研发，并以机器人为主要应用对象。

马库斯坚信自己的学术理念，不认同当今学术界的主流方向能把人工智能从今天带到未来。他敢于站出来泼冷水、唱反调，并敢于向人工智能学术界泰斗如杨立昆等人发起多次公开辩论。

他不断撰文和发表演讲来指出许多人工智能核心技术中存在的弊端和局限性，包括以下这些广为流传的文章标题：

OpenAI“单手解魔方”被公开质疑，Gary Marcus称七大问题涉嫌误导；

DeepMind《星际争霸2》AI碾压人类遭Gary Marcus猛怼：通用智能就是空谈。

…………

更为重要的是，马库斯在本书中阐述的核心观念并不是纸上谈兵，而是在实际的创业创新过程中被不断验证和迭代的。

来源：湛庐文化授权互联网思想发布

相关文章