欢迎光临第五届中国汽车网络信息安全峰会2020!

McAfee 警告 | 智能汽车可能会通过AI黑客被劫持

发布日期:2020-04-02

GRCCIoVSecurity

2020-04-02 13:05:28

手机阅读


迈克菲警告称,“Model hacking 模型黑客”可能使智能汽车面临风险




新的研究声称,自动驾驶汽车可能会受到外界力量的劫持,他们可以改变为汽车提供动力的人工智能(AI)系统。


迈克菲(McAfee)的一份报告称,可以操纵车辆的AI系统,这可能会影响自动驾驶汽车的未来和安全性。


迈克菲将其称为“模型入侵”的过程,能够完全覆盖当今可购买的车辆(包括特斯拉的模型)中的软件系统。


模型黑客


迈克菲的高级威胁研究(ATR)和高级分析团队能够使用“微小的修改”对包括某些特斯拉型号在内的许多现代车辆中的Mobileye EyeQ3摄像头系统发起针对黑匣子的攻击。



这次攻击使研究人员可以在实施Hardware pack 1的Tesla Model S中操纵AI技术,将速度限制标志错误分类为读数35,使其自动加速至85 mph。


模型黑客的工作原理是攻击用于定义AI系统规则的算法,例如自动驾驶汽车中的算法。通过负面影响或“毒化”用于创建这些AI模型的训练集,黑客几乎可以影响软件平台如何识别周围环境并与之交互的各个方面。


迈克菲研究人员史蒂夫说:“仅仅通过扰动-将一些特征的大小(例如图像的像素),从零变到一个/一个变到零或删除一些特征,攻击者就可能在安全操作中造成灾难性后果,” Povolny和Celeste Fralick在博客文章中描述了这次攻击。


迈克菲说,虽然还没有关于野蛮黑客行为的文献报道,但对该领域的兴趣正在增长,这意味着黑客可能很快就会激起自己的兴趣。根据Gartner的研究,到2023年,具有自动驾驶功能的车辆数量将达到近75万辆,因此在此类新威胁发生之前就发现它们的需求至关重要。


研究人员指出:“好消息是,就像经典软件漏洞一样,模型黑客攻击也可以防御,并且业界正在利用这一难得的机会来应对威胁,然后再将其变为真正的对手。”





END





点击上方蓝字关注我们



  • 电话咨询
  • 15021948198
  • 021-22306692
None