研究：警车救护车闪烁车灯会引发自动驾驶"数字癫痫"

11月27日消息，汽车制造商宣称，他们日益复杂的自动驾驶系统能够提升驾驶安全性并减轻驾驶员的压力，因为这些系统能够识别即将发生的碰撞并采取措施避免。然而，最新研究表明，某些系统可能会在关键时刻产生适得其反的效果。
以色列内盖夫本-古里安大学和日本科技公司富士通集团的研究人员联合发表了一篇论文，指出某些基于摄像头的自动驾驶系统在遇到应急车辆闪烁灯光时，可能无法准确识别道路上的物体。研究人员将这一现象形象地称为“数字癫痫发作”（Digital Epileptic Seizure），简称“epilepticar”。这些系统虽然经过人工智能训练，可以区分不同的道路物体图像，但在应急车辆灯光闪烁的影响下，其识别效果会显著下降，尤其是在黑暗环境中更为明显。
换句话说，应急车辆的灯光可能让自动驾驶系统对前方形似汽车的物体产生疑虑，难以准确判断。研究人员在论文中指出，这一漏洞存在重大风险，可能导致开启自动驾驶系统的车辆在应急车辆附近发生碰撞，甚至可能被恶意利用来制造事故。
尽管这一研究结果引发了担忧，但研究人员也提出了几点说明。首先，他们尚未在具体的驾驶系统上验证该理论，例如特斯拉的Autopilot系统。而是选择了五款嵌入市售行车记录仪的现成自动驾驶系统进行实验，这些记录仪均通过亚马逊购买。虽然这些产品被宣传为具有一定的碰撞检测功能，但在本研究中仅作为摄像头使用。
研究人员将这些系统捕获的图像通过四个开源对象检测器进行处理，这些检测器通过图像训练来区分不同的物体。然而，研究人员尚不确定是否有汽车制造商使用了这些对象检测器。这可能是因为大多数系统已经针对应急车辆灯光漏洞进行了改进。
内盖夫本-古里安大学的网络安全与机器学习研究员本·纳西（Ben Nassi）表示，这项研究受到2018年至2021年间特斯拉Autopilot系统与约16辆静止应急车辆发生碰撞事故的启发。他指出：“我们一开始就怀疑，这些碰撞可能与应急车辆的闪烁灯光有关。无论是救护车、警车还是消防车，它们的形状和大小各不相同，因此导致问题的并不是车辆本身，而是灯光。”
美国国家公路交通安全管理局（NHTSA）对上述事故进行了长达三年的调查，最终促使特斯拉召回了Autopilot软件。该系统旨在无需驾驶员干预的情况下完成转向、加速、制动和变道等任务。然而，NHTSA调查显示，Autopilot未能确保驾驶员在系统启用时保持足够的注意力并控制车辆。
其他汽车制造商的高级驾驶辅助系统（如通用汽车的Super Cruise和福特的BlueCruise）也能完成部分驾驶任务，但要求驾驶员在驾驶过程中保持专注，并且这些系统仅能在地图绘制好的特定区域内运行，这与Autopilot有所不同。
NHTSA发言人露西娅·桑切斯（Lucia Sanchez）在一份声明中表示，应急车辆灯光确实可能对某些先进驾驶辅助系统的性能产生影响。“在某些情况下，当应急车辆出现在车道上时，我们发现部分高级驾驶辅助系统未能对其闪烁灯光做出适当反应，”她指出。
特斯拉在2021年解散了公关团队，因此未对相关置评请求作出回应。研究人员在测试中使用的摄像系统来自HP、Pelsee、Azdome、Imagebon和Rexing，这些公司同样未回应置评请求。
研究人员强调，他们无法断言特斯拉的Autopilot与应急车辆灯光之间的具体关联。纳西表示：“我并未声称了解特斯拉车辆为何与应急车辆发生碰撞，也不确定这种情况是否仍然是一个漏洞。”
研究人员的实验主要集中在基于图像的物体检测技术上。然而，许多汽车制造商还使用雷达和激光雷达等其他传感器来检测道路障碍物。特斯拉等少数技术开发者主张，通过复杂的人工智能训练增强的图像系统不仅能支持驾驶辅助，还能实现完全自动驾驶。特斯拉首席执行官埃隆·马斯克（Elon Musk）上个月表示，该公司计划明年利用基于视觉的系统实现自动驾驶。
自动驾驶系统如何应对应急车辆灯光，取决于汽车制造商的设计思路。有些制造商选择调整技术，对不完全确定是障碍物的物体做出反应。然而，这种策略可能导致“误报”，例如误将一个形似儿童的纸箱当成真实障碍物，从而紧急刹车。其他制造商则可能选择仅对高度确信是障碍物的物体做出反应。这种策略在极端情况下可能导致车辆未能及时刹车，与另一辆车发生碰撞，因为系统未能正确识别该车辆。
为了解决这一问题，本-古里安大学和富士通集团的研究人员开发了一款名为“Caracetamol”的软件修复程序。这一名称结合了“car”（汽车）和“Paracetamol”（扑热息痛）。该程序通过专门训练识别带有应急灯光的车辆，显著提升物体检测的准确性。
加州大学圣地亚哥分校计算机科学与工程助理教授劳伦斯·费尔南德斯（Earlence Fernandes）评价该研究“合理且有意义”。他指出：“就像人类可能因应急灯光的闪烁而短暂‘致盲’，高级驾驶辅助系统的摄像头也可能短暂‘失明’。”
麻省理工学院AGE实验室研究车辆自动化与安全的研究员布莱恩·雷默（Bryan Reimer）认为，这项研究揭示了基于人工智能的驾驶系统存在的更广泛局限性。他强调，汽车制造商需要开展“可重复、可靠的验证”来识别盲点，如对应急灯光的敏感性。他担忧部分汽车制造商“技术发展速度已超过其测试能力”。（小小）

                    
               
               
               
               
               
               
                    
                        延伸阅读
                        
                           
                           
                           
                                利润暴跌40%后，三星芯片部门任命新负责人
                           
                           
                           
                           
                                绕地运行两个月后，“迷你月亮跑路了”
                           
                           
                           
                           
                                网易云音乐完成上市公司股票名称更改