道路指示牌上贴个贴纸，就能把自动驾驶汽车给骗到了

上官123 · 发表于: 2017-8-8 16:35:00

源自：好奇心日报

　　自动驾驶汽车“看路”的能力可能还需要进一步提升。
　　一项来自华盛顿大学、密西根大学、石溪大学和加利福尼亚大学的研究显示，欺骗自动驾驶车辆比较容易，给路牌上贴个贴纸就把系统骗了。
　　华盛顿大学的安全研究员 Yoshi Kohno 跟他的同事们开发了一个新的算法 Robust Physical Perturbations（RP2），生成一些彩色或者黑白的图案，可以迷惑自动驾驶汽车用于记录和分析道路信息的路标分类器（road sign classifier）。
　　他们用这套算法做了两次种方式的尝试，使用的是家用打印机。一个是打印出了一张右转弯的标志，覆盖在原有的路牌上，一个是给停车标志用彩色贴纸贴出了 love 和 hate 两个词，对应的路标分类器将其都误认为是限速 45 英里/小时（折合 72 千米/小时）的标志。这两种实验在 1.5-12米的范围内、5-40 度视角内都有效。

Z5zV-fyitapv8841262.jpg 保存到相册

jM8m-fyitapv8841264.jpg 保存到相册

　　这跟自动驾驶系统用使用图像识别和深度学习算法有关系，深度学习算法用来研究、分类这些道路上记录的行人、指示灯、其他车辆。图像识别系统先记录再分类识别，但使用算法来研究这些道路指示牌容易出现问题。
　　在期刊 arXiv.org 上公布的论文中，研究员们写道：“我们认为，考虑到警告信号的相似性，一些微小的干扰就足以使分类器感到困惑。”即便是不清楚这些分类器具体的分类方式、算法，研究员们认为，他们可以根据案例反向进行研究出一些模型来，仍然可以迷惑这些自动驾驶系统依赖的路标分类器。
　　修改道路指示牌是违法，但这不代表没有人会恶意涂改。换句话说，这是一个小概率事件，但在一些人为恶意操作，或者是恶劣天气下，这种情况仍然可能会发生。
　　这不是自动驾驶系统第一次出现潜在的隐患。此前沃尔玛自动驾驶项目 Drive Me 的技术总监戴维·皮克特承认，当澳洲的袋鼠跳到空中时，他们在测试的自动驾驶汽车会判断袋鼠跟车的距离拉开，可能没法及时调整车速，最终可能会导致碰撞事件。
　　现在看起来，在识别路牌上，自动驾驶汽车暂时还没有人眼好用。
　　题图来自：维基百科

　　

帐号		自动登录	找回密码
密码			免费注册

[纪实·新闻] 道路指示牌上贴个贴纸，就能把自动驾驶汽车给骗到了

浏览过的版块