В ходе экспериментов выяснилось, что обычные дорожные конусы, оснащенные зеркалами, могут дезориентировать беспилотные автомобили. Ученые продемонстрировали два типа атак на сенсорные системы. Первый метод, названный «атакой с удалением объекта», позволяет скрывать реальные препятствия от лидарного сканирования. Когда зеркало устанавливается на дорожный конус и направляется в небо или на землю, лазерные импульсы отражаются от зеркальной поверхности, не возвращаясь к датчику. В результате система воспринимает пространство перед автомобилем как свободное от препятствий.
Второй подход, «атака с добавлением объекта», создает иллюзию несуществующих преград. Путем опытов с размещением зеркал на обочине дороги исследователи генерировали «фантомные эхо-сигналы», которые лидар интерпретировал как реальные объекты. При использовании шести зеркал система ошибочно классифицировала артефакты как автомобили с вероятностью 74%, что могло приводить к необоснованному экстренному торможению или блокировке маневров. Особую озабоченность вызывает низкая стоимость реализации таких атак — для создания помех достаточно простых зеркальных поверхностей.
Данное исследование подчеркивает фундаментальные проблемы, стоящие перед создателями беспилотных систем. В отличие от Tesla, которая полагается исключительно на камеры, большинство производителей используют лидары как ключевой компонент системы восприятия. Однако, как показали эксперименты, эта технология уязвима к целенаправленным оптическим помехам. Ученые отмечают, что их работа не ставит крест на технологии автономного вождения, но указывает на необходимость разработки более совершенных алгоритмов, способных отличать реальные объекты от артефактов.
А первая беспилотная доставка автомобиля Tesla закончилась грубым нарушением ПДД.