找茬？纠错？这个科研团队能让无人驾驶更安全吗？

交汇点讯  近几年来，随着高端传感器、芯片、5G通信等新一代信息技术发展迅猛，无人驾驶技术越来越多地出现在人们生活中，成为国内外人工智能领域的热门，但其在实际应用上存在诸多技术难题。其中，无人驾驶载具的目标检测器采用的基于神经网络的深度学习算法，因易受攻击而极具风险。

为加强无人驾驶目标检测的安全性，以南京邮电大学电子信息专业的孙一铭为代表的学生团队，开展了“无人驾驶环境下注意力敏感机制与对抗性网络的适应性对抗样本生成算法”项目研究，通过深度学习算法制造了一个对抗性补丁贴图，对无人驾驶载具的物体检测器进行干扰攻击，使其检测错误或无法检测到物体。

据了解，项目前期，团队查阅了大量文献，复现论文中的方案并结合项目要求分析选定对抗补丁的攻击手段。由孙一铭和丁建宇负责分析代码，张驰负责构建数据集，两端接头合作完成。孙一铭团队表示：“希望通过探讨无人驾驶可能遭受的攻击模式，做出针对性防御措施，帮助优化安全漏洞，推动实现无人驾驶自由。”

“这个项目是基于图像对抗技术，由于本科阶段没有接触过相关知识，我们基本上从零开始做起。”孙一铭向记者介绍，团队成员对当前计算机视觉对抗领域的论文和方案进行调研并分享学习成果，共同探讨方案计划的可行性。“我们一起寻找开源代码，并对其进行理解、修改、比对，经过一次又一次地实验、测试，最终得出适合的实验方案。”

孙一铭坦言，技术上遇到的较大困难是实际环境复杂多变。“在户外，不同的光照和天气环境都会影响对实验结果，对我们的工作提出了挑战。初期，即使面对因疫情影响而进展缓慢的窘境，团队成员也没有气馁，而是相互鼓励坚持下来。同时，在项目中，导师季一木不仅提供了设备上的支持和方法方向的指导，还不断地给予我们精神鼓舞。”

记者了解到，目前，孙一铭团队已经与奇瑞汽车股份有限公司合作，下一步将在现实环境中进行无人驾驶干扰实验。“以往的实验都是在实验室环境下进行，现在到真实的物理环境中可以帮助发现更多的问题，我们希望通过这类纠错研究让无人驾驶更加安全。”孙一铭说。

通讯员 李海博 余舒宁

新华日报·交汇点记者 葛灵丹

编辑: 蒋明睿