六个月前，本·古里安大学(Ben-Gurion University)博士生Ben Nassi在尤瓦尔·埃洛维奇(Yuval Elovici)教授的建议下，使用廉价的无人机和电池供电的投影仪对Mobileye 630 Pro驾驶员辅助系统进行了一系列成功的欺骗攻击。从那时起，他将这项技术扩展到可以混淆特斯拉Model X的实验上，并且也成功地进行了实验，并将在特拉维夫的Cybertech Israel会议上展示他的发现。
欺骗攻击很大程度上取决于人类和AI图像识别之间的差异。在大多数情况下，纳西和他的团队预测拖曳特斯拉的图像不会愚弄一个典型的人类驾驶员-实际上，某些欺骗攻击几乎是隐秘的，它们依赖于感知的差异，不仅使欺骗尝试成功，而且也将它们隐藏在人类观察者面前。
Nassi制作了一段视频，概述了他认为这些欺骗攻击的危险，他将其称为“ ADAS的幻影”，并提供了一个提供视频的摘要网站，概述其工作的摘要以及完整的参考文件本身。我们不一定同意纳西(Nassi)所做的工作，在大多数情况下，我们认为特斯拉(Tesla)对这些故意混淆传感器的反应相当合理且反应良好。但是，我们确实认为这种工作很重要，因为这表明需要对半自动驾驶系统进行防御性设计。
由于实验所在国家/地区的无人机法律，Nassi和他的团队对X型的欺骗是由一名手持投影仪的人类助手进行的。但是，欺骗也可能是由无人机执行的，因为他先前对Mobileye驾驶员辅助系统进行了欺骗攻击。
从安全角度来看，这里有趣的角度是，攻击者不必在攻击现场，也不需要留下任何证据-攻击者不需要太多的技术知识。一个拥有400美元的无人机和电池供电的投影仪的少年可以合理地实现这一目标，而又不会比“嘿，在高速公路上拖拉汽车很有趣，对吗?” 设备不需要昂贵或昂贵-Nassi的团队成功使用了几台200至300美元的投影机，其中一台的额定分辨率仅为854x480和100流明。
这是完整的“ ADAS幻影”视频。在2:02的自动驾驶模式下，投影车道标记对Model X的影响特别有趣。
当然，没有人应该首先让Tesla本身不受监管— Autopilot是2级驾驶员辅助系统，而不是全自动驾驶汽车的控制器。尽管特斯拉没有回应对此记录的置评请求，但该公司的新闻资料袋非常清楚地描述了自动驾驶仪(强调我们的)：
自动驾驶仪仅适用于专心致志的驾驶员，驾驶员将手放在方向盘上并随时准备接管。尽管自动驾驶仪的设计旨在随着时间的流逝变得更加强大，但按照目前的形式，它并不是自动驾驶系统，它不会将特斯拉变成无人驾驶汽车，也不允许驾驶员放弃责任。如果使用得当，Autopilot可以减少驾驶员的整体工作量，并且八个外部摄像头，雷达和12个超声波传感器的冗余提供了一层安全性，而这是两只眼睛无法提供的。
即使是“自动驾驶仪”这个名称本身也并不像许多人想象的那样不恰当-至少，如果不是一开始就了解现代航空和海上自动驾驶仪系统的现实，那也不是不恰当的。Wikipedia在将自动驾驶仪定义为“不会代替人工操作员，而是协助他们控制车辆的系统”时引用了FAA的《高级航空电子手册》。在《高级航空电子手册》有关自动飞行控制的章节的第一页上，它指出： “除了学习如何使用自动驾驶仪之外，还必须学习何时使用和何时不使用它。”
在这些限制条件下，即使Nassi的视频中展示的最差的响应(Model X急于跟随道路上的假车道标记)似乎也没有那么糟糕。实际上，该剪辑演示了应该发生的情况：Model X的所有者(担心他或她的昂贵汽车可能会做什么)，在自动驾驶仪向不安全的方向行驶后，踩下了刹车并手动进行了控制。
问题是，有充分的理由相信，太多的驾驶员并不认为自己真的需要关注。2019年的一项调查显示，接受调查的驾驶员中有近一半认为在自动驾驶仪打开时将手放开是安全的，还有6%的人甚至认为可以打p。最近，参议员爱德华·马基(Edward Markey)(D-Mass。)呼吁特斯拉提高其营销和文件的清晰度，民主党总统候选人安德鲁·杨(Andrew Yang)则在竞选广告中放手，就像埃隆·马斯克(Elon Musk)在他面前所做的那样。 2018年60分钟 细分。
现在可能是时候专门考虑有关无人机和投影仪的立法了，就像激光指示器变得流行和便宜之后，对激光指示器的管理方式几乎一样。这里进行的欺骗攻击中使用的某些技术也可能使人类驾驶员感到困惑。而且，尽管从理论上讲人类驾驶员至少是可用的，机敏的，并且随时可以接管任何混乱的AI系统，但情况不会永远如此。最好在禁止人员欺骗之前开始制定禁止欺骗车辆传感器的法规 。
