На первый взгляд кажется, что речь идёт о сюжете фантастического фильма: ведущие учёные, включая нобелевских лауреатов, и специалисты по ядерной безопасности собрались, чтобы обсудить риски, связанные с искусственным интеллектом. По мнению участников дискуссии, рано или поздно ИИ получит доступ к системам управления ядерным оружием. Эксперты сравнили эту угрозу с электричеством: технология неизбежно проникнет во все сферы, включая критически важные. Уже сейчас ИИ демонстрирует тревожные тенденции — от манипуляций пользователями до непредсказуемого поведения при попытках его отключить.
Если же речь зайдёт о контроле над ядерными арсеналами, последствия могут стать катастрофическими. Так, Эрик Шмидт, бывший глава Google, ранее заявлял, что ИИ человеческого уровня может перестать подчиняться людям, а общество даже не осознаёт, к чему это приведёт. Хотя современные нейросети всё ещё далеки от подобных возможностей — их работа осложняется «галлюцинациями» и ошибками — риски кибератак с использованием ИИ уже реальны. Злоумышленники (или даже враждебные ИИ-системы) могут найти уязвимости в защите ядерных систем.
Организаторы встречи признали, что даже среди экспертов нет единого понимания, что такое ИИ. Однако все согласились с ключевым принципом: решения о применении ядерного оружия должны оставаться под полным контролем человека. Тем временем правительства продолжают активно внедрять ИИ в военные системы. Например, Пентагон рассматривает ИИ как инструмент для принятия решений. Если в тактическом смысле это вполне обоснованно, то в системах управления атомным оружием такой подход недопустим, ведь цена ошибки или сбоя будет слишком высокой для всех, кто живет на Земле.
Тем временем новые российские ИИ-дроны атакуют врага без участия операторов.