Современные ИИ-технологии вышли на новый уровень возможностей. Теперь их боятся не только простые люди, но и вполне солидные организации, мощь которых заставляет трепетать многих. Например, в Пентагоне серьезно опасаются ChatGPT, считая его идеальным инструментом для дезинформации.
В частности, Крейг Мартелл, директор Пентагона по цифровым технологиям и искусственному интеллекту, заявил, что боится чат-бота «до смерти». Его страхи небеспочвенны. Он обосновал их тем, что ИИ дает ответы на вопросы пользователей авторитетно, хотя может совершенно не понимать контекст. Опасность в том, что люди верят его мнению больше, чем своему. В результате за истину могут быть приняты ошибочные и неверные суждения.
На данный момент у Пентагона нет инструментов, которые бы могли помочь выявить дезинформацию и уведомить об этом. На этом фоне интеллектуальные чат-боты могут стать настоящим оружием, способным быстро распространять дезинформацию среди масс. Скорее всего, таких инструментов пока нет вообще, хотя некоторые компании ведут работу в этом направлении, понимая, как они могут стать необходимы уже в скором времени.