欢迎光临第五届中国汽车网络信息安全峰会2020!

在物理世界对抗性攻击下基于深度学习的车道保持系统的安全性

发布日期:2020-04-06

GRCCIoVSecurity

2020-04-06 13:04:46

手机阅读

摘要


车道保持辅助系统(LKAS)如今已很方便且广泛使用,但对安全性和安全性也至关重要。在这项工作中,我们设计并实现了第一种系统的方法来攻击基于DNN的真实世界的LKAS。我们将肮脏的路标确定为一种针对实用性和隐身性的新颖且特定于域的威胁模型。我们将攻击描述为优化问题,并解决了连续摄像机帧之间的攻击之间的相互依赖性所带来的挑战。我们使用**的LKAS评估了我们的方法,初步结果表明,我们的攻击可以在短短1.3秒内成功地使其脱离车道边界。


新型和特定领域的威胁模型:肮脏的道路补丁


  我们将恶意道路补丁识别为攻击媒介,因为它们在现实世界中是可以实现的,并且通常会出现在行车道周围。为了隐身,我们限制这些路标不覆盖原始车道线,并且将它们的颜色设为灰度,以假装为良性但肮脏。攻击者可以在沥青,橡胶或海报上打印恶意输入的干扰,然后将其放置在道路上。



攻击目标:OpenPilot


OpenPilot是**进的开源LKAS,据报道它具有与Tesla Autopilot和GM Super Cruise相似的性能,并且比所有其他制造商都要好。在您的汽车上添加类似智能手机的设备后,可以对其进行改装以支持LKAS。



攻击演示


该演示视频是通过基于汽车运动模型基础输入生成的变换后的摄像机图像合成的。更具体地说,我们将恶意道路补丁放置在BEV(Bird-Eye View)图像上,从BEV生成摄像头输入,然后根据自行车模型更新下一帧状态。


更多细节请参见以下链接: 

https://www.ndss-symposium.org/wp-content/uploads/2020/02/NDSS2020posters_paper_15.pdf





  • 系统版本:Openpilot 0.6.6

  • 驾驶场景:comma2k19数据集



研究论文

Security of Deep Learning based Lane Keeping System under Physical-World Adversarial Attack

Takami Sato*, Junjie Shen*, Ningfei Wang, Yunhan Jack Jia, Xue Lin, and Qi Alfred Chen (*contributed equally)

arXiv: 2003.01782 (arXiv page), Mar 2020

Earlier version: NDSS'20 Poster -- Best Technical Poster Award (Top 1/30)



团队:

  • Takami Sato, Ph.D. student, CS, UC Irvine

  • Junjie Shen, Ph.D. student, CS, UC Irvine

  • Ningfei Wang, Ph.D. student, CS, UC Irvine

  • Yunhan Jack Jia, Research Scientist, ByteDance Ltd.

  • Xue Lin, Assistant Professor, ECE, Northeastern University

  • Qi Alfred Chen, , Assistant Professor, CS, UC Irvine


致谢





END





点击上方蓝字关注我们



  • 电话咨询
  • 15021948198
  • 021-22306692
None