AI不仅会抢走你的工作，最终连你打字点赞的权利都会抢走

1976年，哲学家朱利安·杰尼斯（Julian Jaynes）发表了一项极富争议性的理论，即我们的近代祖先缺乏自我意识，误以为自己内心深处的声音来源于外界，比如上帝的声音或祖先的幽魂。

杰尼斯把这套理论称为“二分心智主义”[《西部世界》的剧迷们大概会回想起上一季“二分心智（The Bicameral Mind）”那一集]。

今天的人类处于一种类似的前意识（pre-conscious）状态（介于意识和潜意识之间），但我们所听到的声音并非来自大脑的另一半，而是我们的数字自我（digital self）——与生理自我日益不可分割的一种自我。我们将这种数字与实体自我彼此交融协同的状态称为“元我（Meta Me）”。

元我使用数字工具的次数越多，它的意识就会越强烈，此过程将产生巨大的社会、道德和法律影响。其中有些影响已经浮出了水面。

元我如何运作

我们可能以为自己掌控了一切，其实并非如此。从我们建立社交媒体账号以来，数字自我便诞生了，但打字和点赞的权利还在我们手里。

然而，随着数字系统日益智能化，我们的决定权也渐渐被剥夺了。LinkedIn网站提示我们向升职的联系人“表达祝贺”，Facebook为我们发送生日提醒。我们之间的互动形式沦为简单的点击鼠标。

不难想象，将来可能连最后这一下点击的权利都会被夺走，而我们的元我将代替我们发出祝贺。

（还记得这个封面吗？）

大部分人没有意识到，他们把多少决策权力让与了自身的元我。智能恒温器为我们的房子设定理想温度，媒体频道为我们排列接下来应该观看的节目，手机为我们导航……

如果你需要依靠地图软件才能找到位于城市另一端的餐馆，那你很可能根本不知道自己身处城市的哪个角落，而你也不需要知道。那一刻，做决定的人已经不是你了。

我们越是依赖电脑，元我就越能得到充分发展，而我们也会把越多日常决策交到它手中。最终，这一切将在我们不知情甚至不关心的情况下进行，直到元我彻底替代了我们，独立于生理自我之外。

02

这有什么关系？

智能系统不仅仅是代表我们行动的私人助理。软件是人开发的，这背后牵涉不少企业、政治团体和其他潜在的恶意行为体，企图左右我们的决定。

假设你的元我为你安排了一辆自动驾驶汽车接你下班回家。这辆车的赞助商未必会为你规划最快捷高效的路线，反之，它可能会有意带你走某一条街道，路两旁的广告牌和店面贴满了这家公司的品牌广告。

2016年美国大选期间，机器人军队被用于传播病毒式蔓延的政治广告，AI的操纵潜力一目了然。计算机算法对社交媒体行为进行分析，从而量身开发预测结果，再根据其响应即时定制广告。想想为什么淘宝总能推荐你中意的商品就理解了。

AI机器用在政治传播工具上何以效果如此显著，牛津大学互联网学院的计算宣传专家塞缪尔·伍利向Vox新闻网站解释了原理：“一个人控制一千个机器人账号不仅能够影响他们周围的圈子，甚至有可能影响其所在网站的算法。”

如果你的元我代替你做了决定,甚至建议你该给谁投票,那么这一决策是基于什么数据呢？

你或许认为自己能够免受元我力量的影响，不会放任一台计算机掌控你的人生。但是，想想弗吉尼亚州阿灵顿的国防高级研究计划局(DARPA)所开展的研究。

那里的科学家正在尝试将计算机芯片植入人脑，以阅读其言语脑电波，允许人类通过电脑与他人“对话”，完全不用开口。此研究项目名为“无声通话”，目的在于通过思想实现用户与用户之间的交流。

没错，这项技术听起来还像是科幻小说里的噱头，但足以表明人类与计算机系统融为一体的意愿有多强烈。

03

你是否要为元我在你不知情的情况下

所做的事情负责任？

如果我们选择依赖机器，为我们的数字化身赋予更大的独立性，那我们也必须认识到拥有数字化身的深层意义。

这并不是遥不可及的未来。虽然相关技术尚处于早期发展阶段，但我们早已碰到过数字自我被视为真实自我的情况。

举个例子，今年，美国国土安全部在加拿大边境没收了一对美国夫妇的手机，并要求他们提供密码，声称如果有合理的依据，政府有权搜查民众物品。

美国公民自由联盟代表这对夫妇提起诉讼，称手机是比手提袋或行李箱更加私人的物品，且一个人（呈现在手机上）的数字生活应当被纳入宪法的隐私权保护范围。

还有一个类似的案例：今年秋天，美国最高法院即将听取一名男子的上诉，他声称警方根据其手机上的地理位置记录，判他犯了抢劫罪，这种做法侵犯了他的隐私权。

他的理由是，执法人员只是证明了他的手机而非他本人的所在位置，就把他投入了监狱。

但这两者之间是否有区别？将来有一天，当元我在我们不知情的情况下说了什么话做了什么事，我们是否也要承担相应责任？

毋庸置疑，元我并不是风行一时的新奇事物。它是我们的未来本质。这种想法使人细思极恐，毕竟在管理自身目前的数字行为方面，我们根本一窍不通。

为了确保元我能够与世上万物和谐共处，我们必须建立新的社会架构。更重要的是，我们必须寻求与肉体自我同等的法律保护，而这种保护曾经也是来之不易的。

‐End‐

文 | Mark Rolston

图片 | Fastcompany & 网络

编辑 | 黄子君

阅读原文，购买快公司大会门票