“黑”掉自动驾驶汽车,只要给路标涂个大花脸

作者 | 发布日期 2017 年 08 月 09 日 17:00 | 分类 无人驾驶 , 科技趣闻 , 零组件
59893826ac6ba

街上的交通标志未来会成为自动驾驶汽车通行时的领航员,不过一个研发团队近日发现,如果对这些交通标志稍加改动,可能就会让自动驾驶汽车彻底懵掉,其机器学习系统会对标志进行错误的分类并做出错误决定,将乘客的生命置于危险之中。



如果有人恶作剧,用新的贴图覆盖整个交通标志或在上面粘贴一些小的贴纸,就能成功骗过自动驾驶汽车,让它们做出错误的判断。如果交通标志被整个覆盖,恐怕车上的乘客也根本无法分辨。

遇到了一个“假”标志

举例来说,题图中的 4 种标志是该团队设计出来专门“欺骗”自动驾驶汽车的。

雷锋网发现,在左边第一张图的场景中(标志上写有“love”和“hate”的),自动驾驶汽车会将停止标志认成“限速 45 英里/小时”),而且一骗一个准。

左起第二和第三张图中,贴纸和涂鸦也能骗过机器学习系统,不过欺骗的成功率仅为 67%。

第四张图中专门印刷出来的假路标也会让机器学习系统变傻,在它眼中“右转”成了停止标志(欺骗成功率 100%)。

反愚弄措施也不少

随着自动驾驶逐渐普及,保持路标清洁将会成为智能城市管理者的强制责任。

研究人员也给管理者们出了招,未来的路牌可以采用防贴纸材料制作。除此之外,汽车制造商也要让机器学习系统掌握更多的语境信息,毕竟在繁忙的州际公路上是不会出现停止标志的。

雷锋网发现,这已经不是第一个有关自动驾驶汽车被黑或者被干扰的研究了。2015 年 9 月时,Security Innovation 的安全研究人员 Jonathan Petit 就声称他能轻松愚弄任何自动驾驶汽车上的 LiDAR,导致车辆减速或急刹车,而所用的干扰工具只不过是能发射激光脉冲的自制小设备而已。

雷锋网

雷锋网专注于移动互联网。 雷锋网由一群移动互联网的信徒建立,。 雷锋网努力做好移动互联网的三个代表,代表移动互联网未来发展的方向,代表移动互联网的颠覆创新思潮,代表移动互联网创业者和从业者的利益。
未经许可,任何媒体、网站或个人不得复制、转载、或以其他方式使用本网站的内容,违者必究。

直接使用新浪微博发表评论

 

发表评论