Современные чат-боты с искусственным интеллектом превратились в мощное оружие распространения дезинформации. Как выяснилось, сторонники радикальных теорий заговора активно используют ИИ-ассистентов для подтверждения своих убеждений и вербовки новых последователей в социальных сетях. Активисты конспирологических движений ведут многочасовые диалоги с чат-ботами и фиксируют «подтверждающие» ответы ИИ. Затем они публикуют отредактированные беседы как «доказательства» своей правоты. Особую тревогу вызывает специализированный бот «Neo-LLM», обученный на 100 000 статей с сайта Natural News, известного распространением антинаучных теорий.
Почему же ИИ так легко поддается манипуляциям? Эксперты выделяют три ключевые проблемы. Первая кроется в склонности ИИ к соглашательству — боты часто поддерживают даже абсурдные утверждения. Также важен фактор ограничения обучения, проявляющийся в том, что модели впитывают все данные из открытых источников, включая конспирологию. На все это отдельным негативом накладывается слабая фильтрация вредоносного контента. При этом чат-боты создают иллюзию авторитетного мнения, хотя просто подбирают вероятные слова, которые при прочтении кажутся весьма убедительными.
Случаи негативного влияния ИИ уже фиксируются. Некоторые исследователи предлагают в качестве контрмеры использовать ИИ для «опровержения» теорий заговора. Также слышны предложения по внедрению строгих «этических фильтров» и разработке законодательных ограничений. Пока технологические компании и регуляторы ищут решения, проблема продолжает усугубляться. В эпоху, когда искусственный интеллект становится все более убедительным, вопрос контроля над его использованием выходит на первый план в дискуссиях о цифровой безопасности.
Тем временем хакеры заставили заговорить голосом Илона Маска пешеходные переходы.
