酷应用

全球14家机构专家发百页报告：警惕人工智能(附全文)

百家作者：互联网思想 2018-02-23 10:41:03

北京时间2月23日早间消息，一份由26名专家联合撰写的报告，对人工智能技术的潜在威胁发出警告。他们认为，这项技术可能在未来5到10年催生新型网络犯罪、实体攻击和政治颠覆。

　　这份100页的报告标题为《人工智能的恶意用途：预测、预防和缓解》（The Malicious Use of Artificial Intelligence： Forecasting， Prevention， and Mitigation）【点此原文下载报告全文英文版】，参与撰写的专家来自14家不同的机构和组织，包括牛津大学、剑桥大学和埃隆·马斯克（Elon Musk）的OpenAI等。

　　作者在其中详细阐述了人工智能可能在未来几年做出哪些令人们普遍反感的事情。由于人工智能在很多方面的能力都远超人类，所以该报告认为，这种技术现在会帮助敌对国家、犯罪分子和恐怖分子展开精准而高效的攻击，不仅能够扩大范围，还可以提高效率。

　　该报告写道：“随着人工智能越来越强大，越来越普及，我们预计人工智能系统的广泛应用将导致现有威胁的扩大，还会引发新的威胁，甚至改变典型的威胁特征。”他们还警告称，由于人工智能可以扩大规模，并减轻人类的负担，所以攻击成本也会大幅降低。类似地，由于可以借助这种系统来完成人类通常难以完成的任务，所以也有可能出现新的攻击。

　　具体来说，该报告认为，与自动攻击、钓鱼、语音合成、数据中毒有关的网络攻击将会增多。无人机以及全自动和半自动驾驶系统的出现也会构成新的风险，包括多辆无人驾驶汽车故意撞击，使用数千架无人机协同攻击，把商用无人机变成人脸识别刺客，控制关键基础设施以索要赎金。在政治方面，人工智能还可以用于左右民众观点，形成高度精准的宣传，传播虚假但却可信的文章和视频。人工智能还能在私有和公共空间催生更好的监控技术。

　　为了缓解这些威胁，该报告给出了5点建议：

　　- 人工智能和机器学习研究人员应该承认其研究成果是双刃剑。

　　- 政策制定者应该与技术人员密切合作，调查、预防和缓解人工智能可能的恶意使用方式。

　　- 应该向电脑安全等其他高风险技术领域学习一些方法，将其应用于人工智能领域。

　　- 应该在这些领域优先形成规范和道德框架。

　　- 讨论这些挑战时所涵盖的利益相关者和专家范围应该扩大。

　　除此之外，报告作者还认为，应该“重新思考”网络安全，并对制度化和技术性解决方案展开投资。他们还表示，开发者应该形成“责任文化”，考虑数据共享和开放性所带来的力量。

　　不过，也有人认为报告作者夸大了我们面临的威胁。网络安全公司High-Tech Bridge CEO伊拉·克罗琴科（Ilia Kolochenko）认为应该明确区分强人工智能和日常所说的人工智能，前者的确可以取代人类大脑。他表示，犯罪分子已经使用简单的机器学习算法来提升攻击效率，但这些措施之所以能够成功，是因为基础安全性不足以及组织内部的疏忽所致。机器学习只是扮演了“辅助加速器”的角色。

　　他还补充道，人工智能还可以用于更加高效地对抗网络攻击。另外，人工智能技术的发展往往需要展开长期的高额投入，这是“黑帽黑客”通常无法承担的。因此，他不认为数字领域会因此面临实质性的风险和革命——至少5年内不会。（来源：新浪科技樵夫）

中国不惜重金延揽全球AI人才外媒：

挑战美国霸主地位

　参考消息网2月23日报道外媒称，中国于去年7月公布了一项计划，希望成为人工智能领域的全球领军者。对于在美国从事人工智能的技术专家来说，这份文件是对美国未来数十年中可能是最重要的技术研究领域内领导地位的直接挑战。

　　据《澳大利亚金融评论报》2月21日报道，这份宣言和奥巴马政府在2016年年底发布的几份有关人工智能未来的报告极为相似。“值得注意的是，人工智能已经成了中国领导层的重中之重，且各项事务已迅速启动。”新美国安全中心副研究员埃尔萨·卡尼亚说。

　　报道称，当时中国似乎在模仿奥巴马时代的路线图，但六个月之后，美国业内和学术界的人工智能专家说，特朗普领导的白宫几乎没有采取任何行动，以坚持上届政府保卫经济的呼吁。

　　另据俄罗斯卫星通讯社2月21日报道，中国在未来几年内将把美国甩在身后，成为人工智能领域毫无争议的领导国家。这一预测令人信服，因为中国政府制订了人工智能领域的发展计划。中国政府去年7月公布了《新一代人工智能发展规划》。

　　问题不仅在于国家支持。中国和美国都存在客观的竞争优势。例如，美国是人工智能领域毫无疑问的先驱，国家已经建立强大的科研基地。但中国拥有其他最重要的优势：全世界最大的国内市场。人工智能的运作方式是这样的：上载的数据越多，它就越聪明。从这个意义上来说，没有哪个国家能提供比中国更强大的数据检索。首先，中国人口众多，其中一半以上也就是7.52亿人都是网民，而84%的网民都定期使用移动支付。这样，人们在日常生活中留下了“数字痕迹”，而这正好是对机器训练来说极为重要的“大数据”。

　　其次，在中国人工智能研究领域，占主导地位的是三家科技企业：百度、阿里巴巴和腾讯集团。这样，中国还将拥有另一个竞争优势：广泛涵盖效应。科技巨头们依靠活动规模，几乎可以立刻把人工智能研发新成果引进到各种活动领域、产品和服务中。

　　最后，还存在另一个重要因素：中国不惜重金，延揽全世界的人才和学者。如果说几年前美国加利福尼亚州成为吸引全世界人才的中心，那么现在越来越多的高级人才都在前往中国寻找机会。

　　此外据英国《金融时报》网站2月20日报道，中国在成为人工智能领域霸主的战斗中又赢得一项第一——在人工智能初创企业投资方面超过美国。这是一个巨大飞跃。去年，全球一半投资于人工智能初创企业的资金流向中国，而在2016年只有11.3%。

　　根据CB风险投资公司的数据，美国仍然在人工智能初创企业的数量和总权益交易中领先世界，虽然其份额正在下滑。