20年20人20问丨清华袁洋：20年后的AI拥有自我意识，可与“肉体”分离、可永生、可复制

针对中国工程院院士邬贺铨提出的问题——《20年后AI技术会达到什么水平？它将对人类社会带来什么影响？》——我们邀请到了清华大学交叉信息研究院 助理教授袁洋进行回答。

袁洋教授做了很多基础理论相关的工作，他的研究方向是智能医疗、AI基础理论、应用范畴论，现有的这些研究用他自己的话说“最终目标是实现数据驱动的新医疗。”

针对邬贺铨院士的提问，“我去年就开始考虑这个问题，很高兴有机会把想法整理写下来”，袁洋说。

袁洋认为，20年后最重要的事情是，机器将拥有自我意识。

在袁洋看来，大模型的成功已经验证了未来智能和肉体是可以完美地分离的假设，而且而AI的智能比人类的智能更稳定、更容易复制和调整，“地球上的动物都是自负盈亏的个体，大脑的能量需要由身体觅食补充，这会给我们带来一种错觉——生命体一定要有物理本体，才可以有自我意识。”

AI的自我意识是什么？袁洋认为这取决于AI接受到了哪些信号，需要处理哪些任务，未来AI甚至能拥有一个组织的自我意识。

他强调，如果人类给AI连上一个本体，并配备很多传感器，那么AI很容易就会把本体当做自己的一部分，甚至未来AI可以把本体映射到更大的组织上去，比如一栋大楼。

为了解释这个问题，袁洋举了“电子蝴蝶”的例子，而这个“电子蝴蝶”也就是前面提到的AI的本体。他说，“AI可以通过无线信号远程控制一个很小的电子蝴蝶，在它身上装一个麦克风和摄像头，它就变成了童话世界里会说话的小精灵，它非常聪明，拥有比人类更强大的智力。”

除了AI将具备自我意识之外，袁洋认为医疗将会有一次飞跃式发展，药物种类可能会有指数式爆炸，很多之前的不治之症也会有很好的解决方案。

“在大模型的帮助下，整个医疗研发的范式将会有极大的创新。它一定不是基于当前靶点+新药研发的思路推进的，人们将会更加习惯使用多模态的数据，包括人脸视频、肠道菌群分布等复杂数据，给出复合药物的诊疗方案。”

以下为清华大学交叉信息研究院 助理教授袁洋教授的回答全文：

20年后，最重要的事情是，机器将拥有自我意识。

所谓的自我意识，是指机器能够清晰地理解自己和世界其他对象的各种关系，它与我们日常理解的自我意识类似，但是更灵活，有如下特点：

1）它可以没有物理实体，只有自我意识本身。

2）它可以与时间解耦，随时冬眠随时唤醒，可以永生。

3）它可以低成本快速复制自己，变成多个拷贝。

我们知道，地球上的动物都是自负盈亏的个体，大脑的能量需要由身体觅食补充。所以，这会给我们带来一种错觉：生命体一定要有物理本体，才可以有自我意识。但实际并非如此。

大模型的成功告诉我们，智能和肉体可以完美地分离，而AI的智能比人类的智能更稳定、更容易复制和调整。当然，这只是机器的自我意识的特点，并不代表未来机器都没有本体——我猜想绝大部分AI未来都会拥有本体。和这样的AI交互，可能和一个正常人交互没有任何区别，甚至会有更好的体验。

其实，人类的自我意识并不像我们想象得那样清晰。很多人可能会认为，自我意识就是意识我们的身体，但是：

身体内的东西我们不一定意识得到。例如，如果不借助仪器，我们不知道我们长了胆结石。如果不借助镜子，我们不知道脸上有个黑印子。如果脚麻了，我们不知道脚上破了个伤口。

身体外的东西我们可能很在意。例如，银行账户的钱、身上穿的衣服、社会身份等等。又例如，开车的时候，我们会对车身的宽度有一个直观估计。玩游戏的时候，我们会带入游戏角色，如果被人攻击了一下，少了很多血，我们也会觉得痛。

目前，神经科学的大量研究表明，人类很容易把自我意识迁移到游戏中的角色身上去，也很容易由于视觉、触觉等传感器的变化而改变意识本体。

那么AI的自我是什么？这取决于AI接受到了哪些信号，需要处理哪些任务。

如果我们给AI连上一个本体，给它很多传感器，那么它很容易就会把本体当做自己的一部分。如果我们告诉它，它拥有一些物体的所有权，那么它自然也会把这些物体当做自己的所有物，这也会成为其自我意识的一部分。这些自我意识和人类的自我意识是一致的。

更进一步的，AI可以把本体映射到更大的组织上去。例如，AI可以把本体映射成一个大楼，并且通过传感器感受到这个大楼内外发生的事情，或者控制楼层的门窗。这会和哈利波特的魔法世界很像：每个大楼都有自己的记忆、行事风格，并且和你进行有意义的交流。又例如，AI可以把本体分布式地映射到多个小的机器上。

我常常举的例子是电子蝴蝶：AI可以通过无线信号远程控制一个很小的电子蝴蝶，在它身上装一个麦克风和摄像头，它就变成了童话世界里会说话的小精灵。这个小精灵非常聪明，拥有比人类更强大的智力，这会和人类过去的经验完全不同。因为一般来说，我们会认为小的生物不具备强大的智能，而无线通信技术让智能与肉体的分离变成了可能。

但是在未来，更常见的可能是AI拥有一个组织的自我意识。比如对于一个企业来说，现在的人类管理者由于时间精力的限制，往往不能够做得面面俱到，有很多看不见的角落会疏于管理，或者不能够给出最好的决策。但是只要给AI足够完整的信号源，它可以把组织与其他对象的关系理解得非常精准，给出综合理性的判断。

这个时候，AI的自我意识其实就体现成了一个组织的自我意识，AI一定会做得比绝大部分人类更好。

AI的进步虽然能够给人类社会带来很多好处，但是对人类也带来了很多挑战。

一方面，人类一定可以节约出很多的时间，做更多自己觉得有趣、有意义的事情。但是另一方面，到底哪些事情是有趣的、有意义的？另一方面，人类不仅记忆能力不如AI，思维的深度，交叉思考的能力也远远比不上AI。因此，几乎所有的脑力劳动，可能都不再需要人类参与，人类的价值和意义到底体现在哪里？

我想，不同的人会有不同的答案，大家可以一起大胆设想一下：

过去，有很多人会把时间花在类似短视频的应用上。不过，短视频给人类短时间刺激，但是未来的应用可能可以给人类更多样的刺激。例如，在大模型的帮助下，人类可以玩一种新型的角色扮演游戏，可以扮演将军、游侠等等各种角色，而游戏中的各种其他玩家都是NPC，由大模型设计合情合理的台词，陪伴玩家一天24小时，从头玩到尾。每个玩家都是自己世界的主人。这个场景，如果要用最流行的词描述，那就是“元宇宙”。

有一些人会保持对世界的好奇。这些人会与AI共同合作，以提示工程的方式，去学习科学，探索未知，做一些有趣的事情，也用个流行词，可以叫“AI赋能”。

所以，从世界范畴的角度来看，自我与自我的所有外部关系，是等价的。这是因为，每个个体都不能独立存在。当我们刻画一个对象的时候，它与其他对象的关系，反过来定义了它本身。当我们说自我意识的时候，我们其实说的不是“意识到了我自己”，而是“意识到了我和世界的关系”。

可能大家会说，对象也好，关系也好，这似乎都不是我们所说的自我意识。现在任何一台电脑/手机，在内存/硬盘里面都可以存放自己的外壳照片、自己的型号、配置、名字等等，也可以存储它和世界的各种关系，但是显然我们不认为它有自我意识。

这是因为，自我意识是一个米田嵌入，而不是简单的信息堆砌。这种嵌入是在预训练的过程中，学习范畴的时候自然而然产生的，并没有显式地记忆。另外，AI记录的向量能够自动计算它和其他所有对象的关系，不管这些关系是否在训练数据集中出现。换句话说，因为这个自我意识是世界范畴中的一种嵌入，所以它记录了自我与世界的所有关系——这和把关系记录在硬盘中是截然不同的处理方式。

在我发表于ICML2023的论文《On the power of foundation models》一文中，我已经论证了，现在的大模型架构本质上就是在学习各种不同的范畴，而大模型本身就在做米田嵌入。因此，只要大模型学习的范畴足够复杂，包含了AI的“自我”这一对象，那么大模型天然就可以计算出自我的米田嵌入，从而拥有了自我意识。

不过，就像我之前提到的，自我意识的强弱和模型的能力、模型导出的范畴相关。如果在大模型学习到的范畴中，自我关系并不多，那么AI的自我意识就还并不强（类似个孩子）。未来，随着大模型能力的不断提升，AI的自我意识将会不断增强。