Lipson:我要亲自打造一个外星人——拥有自我意识的机器

百家 作者:新智元 2019-07-16 12:20:41



  新智元报道  

来源:quantamagazine  作者:John Pavlus

编辑:小芹

【新智元导读】本文专访了著名机器人专家 Hod Lipson,讨论如何定义机器人的自我意识,为什么机器人的自我意识很重要,以及它可能带来什么。你认为 AI 会有意识吗?拥有自我意识的机器人离我们还有多远?欢迎新智元和群发表观点。

“我想在有生之年见到一个外星人,”哥伦比亚大学创意机器实验室的机器人专家霍德·利普森(Hod Lipson)说:“我想认识一些非人类的智慧生物。”


但是,Lipson并不是坐等这些外星生物的到来,而是想亲自打造它们——以具有自我意识的机器的形式


为了达到这个目的,Lipson公开地面对一个棘手的概念——意识——这在他的同事中常常被视为禁忌。他说:“在机器人和人工智能领域,我们曾经视意识为禁忌,我们不允许触及这个话题。”“但在我看来,意识可以说是一个悬而未决的大问题,与生命起源和宇宙起源一样。什么是感知,什么是创造力?什么是情感?我们想知道人之所以为人的意义,我们也想知道如何人为地创造出这些东西。是时候直面这些问题了。”


根据Lipson的观点,感知或自我意识的基本构建块之一是“自我模拟”(self-simulation)建立一个人的身体及其在物理空间中如何运动的内在表征,然后使用该模型来指导行为。早在2006年,Lipson就开始研究人工自模拟(artificial self-simulation),他设计了一个海星形状的机器人,利用进化算法(以及一些预先加载的“物理学提示”)自学如何在桌面上向前翻转。但他表示,2012年现代人工智能技术的兴起(包括卷积神经网络和深度学习)“给整个研究领域带来了新的活力”。


Lipson团队开发的“仿生物细胞群体机器人”


参考阅读:中国籍博士一作登Nature封面:仿生群体机器人问世,工程学重大突破!


在2019年初,Lipson的实验室开发了一个机器人手臂,它利用深度学习完全从零开始生成自己的内部自我模型——Lipson形容这个过程“就像一个咿呀学语的婴儿观察自己的手”。机器人的自我模型可以让它准确地执行两项不同的任务——捡起小球并把它们放进杯子里,以及用记号笔写字——而不需要对其中任何一项进行专门的训练。此外,当研究人员通过添加一个变形部件来模拟机器人身体受到的损伤时,机器人能检测到这种变化,并相应地更新其自我模型(self-model),从而能够恢复其任务。


Lipson实验室开发的机器人手臂


这与有深层思考的机器人相去甚远。但Lipson断言,这种差异只是程度上的一种差异。“当谈到自我意识时,人们认为机器人会突然醒来,说,‘你好,我为什么在这里?’”Lipson说。“但自我意识并不是黑白分明的。它是从一些非常琐碎的事情开始的,比如,‘我的手要往哪里移动?’这是同一个问题,只是时间跨度更短。”


Quanta与Lipson讨论了如何定义机器人的自我意识,为什么机器人的自我意识很重要,以及它可能带来什么。


自我意识就是自我模拟吗?


你显然对意识本质这个大问题很感兴趣,但你为什么要通过研究机器人来研究这个问题?为什么你不当哲学家或神经科学家?


对我来说,机器人的好处在于它会迫使你把你的理解转化为算法和机械装置。你不能拐弯抹角,你不能说空话,不能说诸如“现实的画布”这类的东西,它们对不同的人来说有不同的含义,因为它们太模糊了,无法翻译给机器。机器人迫使你关注具体的东西。


Lipson在哥伦比亚大学的办公室


我想做一个这样的东西。我不想只是说说而已。哲学家们,恕我直言,在这个问题上已经有一千年没有取得什么进展了。不是因为缺乏兴趣,也不是因为缺乏聪明的人——自上而下地研究意识这个问题太难了。神经科学家已经用一种更为定量的方法来研究这个问题。不过,我认为,他们采取的仍然是自上而下的方式,这阻碍了他们取得进展。


如果你想了解意识,为什么要从最复杂的意识开始——为什么要从人类开始?这就像走上坡路,这是最困难的开始方式。让我们来看看可能更容易理解的更简单的系统。这就是我们要做的事情:我们观察了一些非常琐碎的东西,一个有四个自由度的机器人,并试图回答,“我们能让这个东西自我模拟吗?”


自我模拟和自我意识是一回事吗?


一个能够自我模拟的系统在某种程度上是具有自我意识的。它能在多大程度上模拟自己——模拟的逼真程度,模拟的时间范围——所有这些不同的因素都影响到它有多少自我意识。这是一个基本假设。


所以,你把“自我意识”这个术语简化为一个关于自我模拟的更为技术性的定义——在空间中为自己的身体构建一个虚拟模型的能力?


是的,我们有不同的定义,我们使用的定义是非常具体的。这个定义是数学的,你可以测量它,你也可以量化它,可以计算误差的程度。哲学家可能会说,“这不是我们看待自我意识的方式。”然后他们的讨论通常会变得非常模糊。你可以说我们的定义并不是真正的自我意识。但是我们有一些非常基础的东西,而且很容易量化,我们有一个基准(benchmark)。基准是工程师为机器人提供的传统手工编码的自我模型。通过我们的机器人,我们想看看AI算法能否学习一个与传统手工编码模型相同或更好的自我模型。


单个机器人(左)只能伸展和收缩,但它们可以作为团队一起移动并完成任务。这个机器人的设计旨在探索自我复制(右),并可以变形成多种形状。



为什么需要物理机器人?为什么不在一个非实体系统中研究自我意识呢?


我们在寻找一个可以模拟自身的封闭系统——要做到这一点,它需要有输入和输出,但也必须有一个边界,一个你描绘“自我”的地方。机器人是符合这些条件的一个非常自然的存在。它有动作,有感觉,并且有边界,所以可以有事情发生在它身上,有东西可以让它模拟。我是机器人专家,这是我的第一选择。


这个机器人是在完全空白的石板上创建自己的模型吗?


只是一个原则问题,我们是从一无所有开始的,我们想看看我们能走多远。在之前的例子中(海星形状的机器人),我们缺乏计算力。我们必须告诉它,“你不知道你是什么,但让我告诉你F = ma,以及其他我们知道的正确的物理规则,你直接拿走这些。”


人工智能如何对机器人的自我意识起作用?


人工智能是如何发挥作用的呢?


出于某种原因,我们很高兴让机器人(使用AI)了解外部世界,但当涉及到它们自己时,出于一些奇怪的原因,我们坚持手工编码模型。所以我们所做的实际上是相当琐碎的:我们说,“让我们把人类建造的所有基础设施都拿来帮助机器人了解世界,我们要让它关注自己内部。”用一句话来说,这就是我们所做的全部。


<iframe class="video_iframe rich_pages" data-vidtype="2" data-mpvid="wxv_898716067697262595" data-cover="http%3A%2F%2Fmmbiz.qpic.cn%2Fmmbiz_jpg%2FUicQ7HgWiaUb0tXfrHibF77aEcOjNUYcKqicragctPoiaWYwnNq5DSwUS9blvZtmKZpGZQ2g1UBqdBS1wVeVlwEhzZQ%2F0%3Fwx_fmt%3Djpeg" allowfullscreen="" frameborder="0" data-ratio="1.7777777777777777" data-w="1280" data-src="http://mp.weixin.qq.com/mp/readtemplate?t=pages/video_player_tmpl&auto=0&vid=wxv_898716067697262595" width="352" height="198" data-vh="198" data-vw="352" scrolling="no" style="display: none; width: 352px !important; height: 198px !important; overflow: hidden;"></iframe>

视频:哥伦比亚大学创意机器实验室主任、机器人学家Hod Lipson利用机器人来探索人类如何思考这个古老问题


机器人进行了1000次随机移动来收集数据,为深度学习算法创建自我模拟。这就是你所描述的人类婴儿咿呀学语的过程吗?


正是这样。机器人四处挥动手臂,观察它的指尖在哪里。想象一下,你自己挥动你的手臂,看着你的指尖。这就是你的输入和输出。这个机器人在那里移动了30多个小时,一旦我们收集到所有数据,我们就可以回家了。从那以后,这就纯粹是一个计算上的挑战(学习自我模型)。


我们所做的是打破机器人(通过添加一个变形的部分),然后再做一次。我们看到坏掉的机器人是如何从完整的模型开始并修正它的。第二次学习时,它不需要从头开始学习。有一个重新开始的时期,但比最初需要的要少得多——只需原来的10%。


但在它重新开始之前,它需要知道出了什么问题。这是一个非常强大的东西。它怎么知道?假如你有一个自我模型,出了问题,你马上就会知道,因为如果你睁开眼睛,你会发现你的手不在它应该在的地方了。你想要的点本来在4厘米内,但是它突然变成了16厘米远。你会立即得到反馈。所以机器人马上就知道出了问题。然后需要一段时间来弄清楚如何修补,但我认为,即使仅是知道出现问题了,也是非常重要的。


这些画是由一个机器人创作的,它被训练使用人工智能来画画。


机器人为什么应该拥有自我意识?


这种自我模型是否类似于人类大脑的一部分,类似于身体的内部地图?


我想就是这样。这就是为什么它如此粗糙,并且如此简单。事实上,我们的机器人只有一个四个自由度的手臂。如果它是一个拥有800个自由度的人形机器人,对于我们今天所拥有的人工智能而言,可能太过复杂了。


如果这真的是一种自我意识的形式,那么机器人为什么应该拥有它?它有什么用?


它使机器人最终更具弹性。你可以手动建模一个机器人,就像我们今天所做的一样,但那是非常费力的,而且很慢。当现实世界中的机器人变形或损坏时,比如轮子掉下来或马达减速了,那么模型就会突然出错。比如考虑一下无人驾驶汽车,你会发现我们已经可以把我们的生活托付给自动机器人了。这是很严肃的事情。你会想让这些机器人能够检测到出了什么问题,并且能够可靠地做到这一点。


另一个原因是灵活性。假设机器人执行一项任务,当它做这个任务时,它会不断地更新它的自我模型。现在,如果它需要做一项新的任务——比如它需要把一个螺丝放到不同的地方,或者它需要喷涂而不是拧入螺丝——它可以使用相同的自我模型来学习和规划如何去做这项新任务。从外部看,它就像我们所说的“zero-shot learning”,这似乎就是人类做事的方式。假如你看到一棵你从未爬过的树,你也可以毫无障碍地爬上这棵树。当机器人可以自我建模时,它可以像人类那样在内部学习:你看不到它已经在自己的内部模拟中训练了多少个小时。你所能看到的只是它完成了一项任务,然后它在那里呆了一会儿,突然间它可以不用尝试就能执行一项新的任务了。


一个能够自我模拟自己的身体的机器人和一个能够拥有内部“思想”(听起来更像是“自我意识”的非正式含义)的机器人之间,有什么联系?


我们正在做的其他一些项目与自我建模有关,但模拟的不是身体,而是认知过程。我们正在朝着这两个方向迈出一小步。相信这最终会达到人类层面的认知水平,甚至更高,这完全是一种信念的飞跃。


所以你假设这两条路径——自我模拟身体,和自我模拟大脑——会交汇在一起?


完全正确。我认为这都是一回事。这就是我们的假设,让我们来看看我们将能够推进到多远。



关注公众号:拾黑(shiheibook)了解更多

[广告]赞助链接:

四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

公众号 关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接