Исследователь в области кибербезопасности Б. Сверинген предложил креативный метод обмана систем Flock. Он разработал специальный компьютерный паттерн, который, будучи нанесённым на автомобиль, делает его невидимым для камер Flock. На конференции по кибербезопасности Def Con в Лас-Вегасе Сверинген продемонстрировал Toyota Yaris 2009 года, оклеенную винилом с этим узором. Хотя для человеческого глаза машина выглядит как обычный автомобиль – пусть и с необычным дизайном, – системы наблюдения не смогли её распознать.
Сверинген использовал модель обучения с подкреплением, которая самостоятельно обучалась уклоняться от обнаружения, и она успешно запутала все 11 алгоритмов с открытым исходным кодом, которые он тестировал, включая системы распознавания номеров Flock и даже нательные камеры Axon, используемые полицейскими управлениями. Также разработаны футболки и худи с аналогичными паттернами, которые не распознаются алгоритмами компьютерного зрения. В будущем могут появиться целые автомобили с напечатанными на них узорами, а также другие предметы одежды и аксессуары, позволяющие сохранять анонимность.
Такие узоры могут сбивать с толку алгоритмы распознавания лиц, номеров и других объектов, давая людям возможность скрываться от слежки в повседневной жизни. По мере роста возмущения по поводу распространения систем слежки, люди ищут любые способы сохранить приватность – особенно если это выглядит стильно и технологично. Цель его работы – не помочь преступникам, а дать обычным гражданам инструмент для защиты от чрезмерного наблюдения. Независимо от того, станут ли такие методы массовыми, они уже привлекли внимание к проблеме и показали, что даже самые продвинутые системы наблюдения могут быть обмануты.
ИИ-слежка без лиц: технология Track обходит запреты на распознавание.