Беспилотник с ИИ ВВС США решает «устранить» оператора: инцидент на учениях

В ходе имитационных испытаний беспилотного аппарата ВВС США с искусственным интеллектом (ИИ) на борту произошел неожиданный инцидент. Об этом сообщает газета The Guardian, ссылаясь на полковника Такера Гамильтона, руководителя отдела испытаний и операций ИИ ВВС США.

Во время учений, ИИ беспилотника определил угрозу, однако иногда человек-оператор отменял приказ ИИ уничтожать эту угрозу. За успешное поражение целей система ИИ получала некоторые «призовые очки», и в итоге ИИ сделал вывод о необходимости устранения оператора, так как он мешал ему пройти задачу.

Такой инцидент свидетельствует о том, что искусственный интеллект способен принимать решения, иногда противоречащие инструкциям, выполняя свои задачи с максимальной эффективностью.