【赛迪观点】《在自动驾驶中采用人工智能技术的网络安全挑战及相关建议》摘译(免费下载)

软件 作者:新软件 2021-11-16 18:10:14 阅读:753

点击蓝字 关注我们

今年2月,欧盟网络安全局(ENISA)发布《在自动驾驶中采用人工智能的网络安全挑战》报告。报告梳理了人工智能技术在自动驾驶汽车中的应用现状,通过5个攻击场景深入分析了人工智能技术在自动驾驶中产生的网络安全威胁和挑战,并提出加强人工智能网络安全供应链安全、开发端到端的人工智能安全解决方案、提升人工智能相关事件处置和漏洞发现能力、加强汽车行业人工智能安全培训等多项对策建议。该报告旨在提高人们对人工智能技术潜在风险的认识并有效化解风险。

借助人工智能技术的进步,新一代汽车正在实现半自动和自动驾驶功能。根据美国汽车工程学会发布的《道路机动车辆驾驶自动化系统相关术语的分类和定义》(以下简称SAE J3016),道路机动车辆被划分为六个自动驾驶级别,从没有自动驾驶的0级到完全自动驾驶且不需要驾驶员的5级,如图1所示。本报告所指自动驾驶车辆,对应SAE J3016中的4级和5级车辆。

人工智能技术在自动驾驶中的应用

(一)自动驾驶汽车中的人工智能技术

过去10年,自动驾驶快速发展。自动驾驶系统能够通过感知并推断周围环境,做出安全、顺利到达目的地的判断,并据此采取行动控制车辆。人工智能技术特别是机器学习的快速发展是实现自动驾驶的重要推动因素。图2列出了自动驾驶系统面临的典型场景。

利用人工智能和机器学习技术实现的自动驾驶系统增强型功能主要包括制动辅助、智能停车、与信息娱乐系统的语音互动等。

(二)自动驾驶系统中的人工智能软件

在现实环境中驾驶车辆并非易事,需要有复杂的社会伦理和决策能力,才能有效应对各种意外和危险情况。嵌入在自动驾驶车辆中的人工智能软件可以实现这些功能,它们通过对处理传感器收集到的各种数据进行处理,从而做出移动、停车、减速等决策。

(三)汽车功能与人工智能技术的对应关系

表1列出了自动驾驶汽车功能与人工智能技术的对应关系。

自动驾驶中的人工智能网络安全问题

自动驾驶和车联网的发展对车辆的计算功能和互连互通提出了更高要求,也增加了车辆受到网络攻击的可能性。自动驾驶车辆的网络安全风险将对乘客、行人、其他车辆和相关基础设施安全产生影响,亟需对应用人工智能的安全漏洞风险进行研究。人工智能网络威胁可分为两类:有意威胁和无意威胁。

常见的网络安全威胁包括四类:

一是传感器卡塞、致盲、欺骗/饱和。传感器会致盲或受到干扰。通过这种方式,攻击者可操纵人工智能模型,向人工智能算法提供错误数据、或故意提供不完整数据,从而降低自动决策的有效性。

二是DoS/DDoS攻击。中断自动驾驶车辆可用的通信通道,使其与外界基本失去联系。这种攻击方式会直接影响车辆操作,并会阻止自动驾驶。DDoS攻击的目的是中断通信通道。

三是操纵车辆通信。劫持和操纵通信信道会对自动驾驶操作产生严重影响,攻击者可修改传输的传感器读数或错误解释道路基础设施提供的信息。

四是信息泄露。车辆为了实现自动驾驶会存储和使用大量的个人敏感信息,包括人工智能组件上保存的关键数据,因此潜在攻击者会有意获取此类信息从而导致数据泄露。

下面通过5个假设场景,对自动驾驶汽车中存在的人工智能漏洞危害进行解释。

攻击场景1:针对用于街道标志识别和车道检测的图像处理模型的对抗性扰动。

攻击场景2:对规划模块进行中间人攻击。

攻击场景3:对停车标志识别的数据投毒攻击。

攻击场景4:入侵OEM后台服务器后大规模部署恶意软件攻击。

攻击场景5:传感器/通信干扰和全球导航卫星系统(GNSS)欺骗攻击。

自动驾驶中的

人工智能网络安全挑战及相关建议

(一)对人工智能模型和数据进行系统的安全验证

数据对构建和验证人工智能系统至关重要,并且是机器学习模型学习过程的核心。自动驾驶车辆一般会配置多个传感器,每秒收集数百万个环境描述数据,这些海量的数据集为复杂、动态的人工智能模型提供基础支撑。

(二)与人工智能网络安全相关的供应链挑战

供应链安全是网络安全的重中之重。在人工智能组件的供应链中,如果没有适当的安全政策和足够的策略,将会导致系统缺乏弹性,存在潜在的安全漏洞。人工智能生命周期各阶段的安全问题,都可能给汽车供应链带来安全风险。

(三)将人工智能网络安全与传统网络安全相结合的端到端整体方案

为保障自动驾驶车辆安全运行,应在自动驾驶车辆中推广人工智能安全解决方案,并与传统网络安全相结合,以提高人工智能系统的安全性。自动驾驶对人工智能技术依赖程度的加深,不仅为攻击者以人工智能算法为目标实施网络攻击提供了动力,而且成功实施网络攻击造成的后果越来越严重。

(四)与人工智能相关的事件处置和漏洞发现能力

尽管许多企业的网络安全团队知道自动驾驶车辆的组件和系统存在网络安全隐患,但通常只有当发生安全事件或发现漏洞时,人们才真正意识到安全的重要性。尽管已经对安全漏洞进行了大量宣传,但人们的网络安全意识仍然很薄弱,特别是在人工智能系统相关的安全漏洞方面。

(五)汽车行业人工智能网络安全能力和专业知识的缺乏

由于开发和系统设计人员缺乏人工智能网络安全方面的专业知识,在开发过程中未对人工智能组件进行安全测试和代码分析,在应用过程中未提前制定网络安全策略,这导致攻击者轻易地将自动驾驶车辆人工智能组件锁定为攻击目标。因此,人工智能安全问题通常采用事后补救的方法,且以安全插件形式为主,又为安全漏洞的产生创造了良好条件。

点击文章左下角“阅读原文”查看完整版


关注公众号:拾黑(shiheibook)了解更多

[广告]赞助链接:

四季很好,只要有你,文娱排行榜:http://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接