欢迎光临第五届中国汽车网络信息安全峰会2020!

博世部署AI以防止对汽车电子系统的攻击

发布日期:2020-05-12

GRCCIoVSecurity

2020-05-12 13:03:44

手机阅读

点击上方蓝色字体,关注我们


总部位于德国的工程公司Robert Bosch GmbH正在使用人工智能来降低黑客能够欺骗汽车的电子系统以误解道路标志的风险。


交通标志识别是自动驾驶汽车所需的关键工具之一。由于道路标志的标准化,该技术非常适合可以识别图像的机器学习和深度学习过程。


但是,当故意破坏标志以欺骗算法以不同的方式读取它们时,就会遇到困难。研究人员说,只要有几条有策略地放置的胶带,一个人就可以欺骗算法查看停车标志,就好像它是每小时45英里的限速标志。在实验室或测试环境之外,没有发现此类严重事件。


即使在人类操作的车辆中,此类信息也可能被证明是危险的,因为驾驶员可能依赖于通过车载系统显示的信息。


这种攻击的威胁给博世(Bosch)带来了巨大的问题,博世开发了车辆部件,例如传感器和摄像头,用于交通标志识别等任务。该公司**技术官Michael Bolle说,该公司正在研究对策。


Bolle先生没有撤回AI,而是提出了解决方案,那就是将其翻倍。该公司推出了一种使用计算机视觉的并行AI流程,其中算法寻求模仿人类的视觉处理系统。这个想法是从两个不同的角度分析对象并将它们相互比较。


例如,一种系统使用深度学习算法来识别路标并确定其告诉驾驶员的信息。此过程可以通过操纵来欺骗。但是通过采用Bolle先生所说的多径方法,使用计算机视觉的第二种计算机算法对相同的信息进行了不同的分析。它实际上是对第一个结果的检查。如果两者之间存在差异,则可能表明有人正在尝试欺骗系统。


博世的防御基于以下事实:这种攻击旨在挫伤自动驾驶汽车的特定元素,在这种情况下,该神经网络经过训练可识别停车标志等图像。补救措施涉及使用单独的系统,即计算机视觉,该系统不受恶意行为者的攻击。


防御仅由故意攻击触发。标牌上的灰尘或污垢不太可能导致AI的功能出现问题,但是将胶带贴在标牌上会造成问题。


“这不是随机的结果–并不是您在上面贴了标签,突然之间发生了意外情况。这是有针对性的。”软件公司NortonLifeLock Inc.的技术负责人Darren Shou说。该公司销售Norton防病毒软件和LifeLock身份盗用保护产品,以前称为SymantecCorp。名称更改是在Symantec同意出售时发生的。于11月将其企业安全业务转让给Broadcom Inc.。


有问题的黑客方法反映了一种新型的网络攻击,黑客在其中攻击了输入到算法中的信息。这种低技术的黑客形式不同于传统的攻击方法,例如渗透复杂的信息技术系统。


“当我们谈论网络安全时,我们谈论的是入侵我们系统并更改代码并损害我们系统的黑客。在机器学习和AI领域,产品和机器可以从数据中学习,因此数据本身可以成为攻击面的一部分。”


作者:詹姆斯·朗德尔(James Rundle)和约翰·麦考密克(John McCormick)

美国东部时间 2020年1月6日下午5:37 更新



相关文章

对话Thales CTO | 威胁检测和AI驱动的安全解决方案的发展和给CISO的建议
瑞莱智慧推出RealSafe AI安全平台,具有模型安全测评和防御解决方案
问答:使用Edge AI解决联网汽车难题






SELECTED EVENTS




 

长按二维码识别关注



  • 电话咨询
  • 15021948198
  • 021-22306692
None