Новое исследование выявило очередной этап эволюции дипфейков. Оно показало, что новейшее поколение синтетических видео больше не выдаёт себя отсутствием человеческого пульса. Это означает, что один из ключевых биомаркеров, ранее использовавшийся для обнаружения дипфейков – практические невидимые невооруженным глазом изменения пульса и тона кожи лица – больше нельзя считать надёжным. Немецкие ученые, используя самые современные инструменты замены лиц, продемонстрировали, что высококачественные дипфейки теперь могут воспроизводить реалистичные сигналы сердцебиения в соответствии с тоном кожи лица.
В течение нескольких лет экспериментальные системы обнаружения использовали удалённую фотоплетизмографию (rPPP). Этот метод, заимствованный из телемедицины, измеряет крошечные ритмичные изменения цвета, которые происходят при прохождении крови по кровеносным сосудам лица. На реальных кадрах виден ощутимый пульс, а на синтетических кадрах, созданных ИИ кадр за кадром, как правило, его нет. Однако новое исследование показало, что в последних качественных фейковых видео можно заметить реальное сердцебиение и едва уловимую девиацию цвета лица. Это значительно затрудняет их обнаружение.
Исследователи обнаружили два пути. Во-первых, злоумышленник может намеренно внедрить ритмичное изменение цвета при создании подделки. Что еще более удивительно, фейки могут наследовать сердцебиение исходного видео, используемого для анимации целевого лица. Хотя глобальную частоту сердечных сокращений можно подделать, пространственное распределение кровотока на живом человеческом лице все ещё ускользает от современных методов синтеза. Исследователи подчеркивают, что полученные результаты не означают прекращения обнаружения глубоких подделок. Детекторы, отслеживающие едва заметные колебания в отдельных областях, а не единый общий импульс, могут вернуть себе преимущество в технологической гонке вооружений.
А однажды атака через дипфейки лишила крупную компанию более 25 миллионов долларов.
