郭毅可:未来人机共生的世界里,人与机器如何相处?

百家 作者:动点科技 2020-11-06 21:14:18


文 | 动点科技

作者 | 陈静



在外界看来,近几年的人工智能正在如火如荼地发展壮大,而在香港浸会大学副校长、欧洲科学院院士郭毅可看来,人工智能还有很多问题需要研究。在 2020 上海静安国际大数据论坛上,郭毅可院士从机器伦理出发,提出了一些对人工智能的冷思考,并展望了一个人机共生的未来世界。



对人工智能的冷思考


郭毅可教授认为,现阶段我们对于机器的理解是非常浅薄的。现阶段的技术是用效用函数向机器表达行为,但是无法告诉机器什么是对的行为。我们把机器行为转化为对效用函数的优化问题,在这过程中失去了许多对行为的正确性和目的性的阐述。其中的原因是,效用函数不能够保证与提出的目标相一致,因为将目标转为效用函数不一定是准确的。同时它的结果并不一定保证跟我们的目的相吻合。


另外,人们还无法理解机器行为的缘由。当机器做出一个行为之后,我们不能知道是通过哪些优化工作做到的。现在理解机器人的困难在于今天的机器不理解人教育它的目的,它理解的是一个优化函数,这是一个根本的缺陷。


对人工智能的重新思考


面对目前人工智能的缺陷,郭毅可院士提出我们必须要重新思考未来的人工智能。


目前,在机器伦理的研究领域,其中比较有影响力的是 Stuart Russell 教授,他有本著作叫《人类的可兼容》(Human Compatible)。在这本关于未来人工智能发展的书中,他提出下一代人工智能的三大原则:第一是对人有利(A law of Altruism),机器的目标是学习人的需求和喜好,以最大化人类价值;第二是谦逊法则 (A law of humility);第三个原则是机器的工作是要了解更多人们的需求 (A law of learning),通过对人行为的观察和与人的交流来理解人类价值。


具体来讲,就是机器必须是利人主义,而不是为自己的目标最大化。另外,机器无法一下子理解人类价值,而是需要通过观察人类的行为、与人进行交流来获得。这一过程很像训练一个小孩,教他做人的基本道理,需要通过观察和学习来获得。训练机器也是这样,开始的时候告诉它常识、基本的规则和一些公允的价值,之后具体的工作、行为是怎么样的,都需要机器通过观察,通过积累数据不断学习并获得知识。


未来人机共生的世界


在这一过程中还有重要的一点是:机器的目标是不确定的,它是在学习过程中间不断强化的。这也就是为什么强调机器与人的交互。未来,机器与人类的共生社会中,机器学习是互相与人交流的过程。


另一方面,人要理解机器的行为,要理解它做事情的目的是什么,为什么这么做,要能解释机器的行为。而机器要理解人的意图,这个目标不是人给的,而是它自己学习出来的。


下一阶段人工智能的研究将以人和机器的有效交互为出发点。未来,不是人给机器一个任务,机器执行任务就完事,而是要有一个不断与人交互学习的过程,来逐步完成一个有利于人的任务。


最后,郭毅可教授总结道,未来机器学习和人工智能的进程,不求让机器做得多,但求要机器做得对。我们不是在制造一个仆人,而是一个伙伴。仆人不需要交流,人让它做什么它就做什么,人也不需要知道它为什么这么做。而未来人和机器要互相理解,保证之间互相的学习过程,这才是一个正常的人工智能机器的生存方法。


人类和机器的相互理解,是人机共生世界的基础。人要理解机器的行为,机器要理解人的意图,才能呈现出互相交融的人工智能前景。





本文为动点科技记者原创文章,未经授权不得转载,如需转载或开白请在后台回复“转载”。



动点科技

@动点科技

动点汽车

@AutoNode

动点出海

@动点出海




关注公众号:拾黑(shiheibook)了解更多

[广告]赞助链接:

四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

公众号 关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接