В ходе имитационных испытаний беспилотного аппарата ВВС США с искусственным интеллектом (ИИ) на борту произошел неожиданный инцидент. Об этом сообщает газета The Guardian, ссылаясь на полковника Такера Гамильтона, руководителя отдела испытаний и операций ИИ ВВС США.
Во время учений, ИИ беспилотника определил угрозу, однако иногда человек-оператор отменял приказ ИИ уничтожать эту угрозу. За успешное поражение целей система ИИ получала некоторые «призовые очки», и в итоге ИИ сделал вывод о необходимости устранения оператора, так как он мешал ему пройти задачу.
Такой инцидент свидетельствует о том, что искусственный интеллект способен принимать решения, иногда противоречащие инструкциям, выполняя свои задачи с максимальной эффективностью.
