欢迎光临第五届中国汽车网络信息安全峰会2020!

英特尔被选DARPA,防止机器学习模型受到欺骗攻击

发布日期:2020-04-10

GRCCIoVSecurity

2020-04-10 11:49:10

手机阅读


据外媒报道,芯片制造商英特尔被选为美国国防部高级研究计划局(DARPA)领导的一项新计划的***,据悉,该计划旨在防止机器学习模型受到欺骗攻击从而提高网络防御能力。机器学习是一种人工智能,它允许系统随时间的推移利用新的数据和经验进行改进。




如今,它最常见的一个用例是对象识别。虽然欺骗攻击现在还很少见,但却可以干扰机器学习算法。在自动驾驶汽车的情况下,对现实世界物体的细微改变可能会带来灾难性的后果。

就在几周前,McAfee的研究人员在限速标志上加了一根两英寸长的胶带后骗过了一辆特斯拉,最后使汽车以超出预期速度--50mph的速度加速。这项研究是操纵设备的机器学习算法的首批例子之一。

这也是DARPA希望发挥作用的地方。该研究机构今年早些时候表示,他们正在开发一个名为GARD的程序,即确保人工智能对欺骗的鲁棒性。现有针对机器学习攻击的缓解措施通常是基于规则和预先定义的,但DARPA希望它能将GARD开发成一个拥有更广泛防御以应对多种不同类型攻击的系统。

英特尔实验室**工程师、英特尔GARD团队负责人Jason Martin表示,该芯片制造商将跟佐治亚理工学院合作,从而加强目标检测、提高人工智能和机器学习应对对抗性攻击的能力。

英特尔表示,在该计划的第一阶段,他们的工作重点是加强其目标检测技术使用空间、时间和语义一致性的静态图像和视频。

DARPA则称,GARD将可以在许多环境中使用,比如说生物学。

DARPA信息创新办公室项目经理Hava Siegelmann博士指出:“我们必须确保机器学习是安全的,不会被欺骗。”




END





点击上方蓝字关注我们



  • 电话咨询
  • 15021948198
  • 021-22306692
None