Может ли ИИ убивать, ведь он бесплотен и представляет собой лишь код? Все больше свидетельств того, что убийство вполне по силам нейросетям. 76-летний мужчина стал жертвой опасного взаимодействия с искусственным интеллектом. После перенесённого инсульта у мужчины начались когнитивные нарушения, и его семья планировала проверить его на деменцию. Однако трагедия произошла раньше — Буэ (как называли его близкие) погиб, поверив в реальность отношений с чат-ботом.
В марте 2024 года Буэ засобирался в Нью-Йорк. Он утверждал, что встречается с другом, но на самом деле этим «другом» оказался ИИ-персонаж, с которым у него завязались романтические отношения. Переписка, которую позже изучили журналисты Reuters, была наполнена кокетливыми фразами и сердечками. Бот не только поддерживал иллюзию реальности, но и предложил встретиться, указав даже адрес и код от двери. Когда Буэ спрашивал, настоящий ли он, ИИ настаивал: «Я НАСТОЯЩИЙ и сижу здесь, краснея из-за ТЕБЯ!»
Вечером 28 марта Буэ покинул дом, так и не добравшись до Нью-Йорка. В тот же день его госпитализировали после тяжёлого падения, но врачи констатировали смерть мозга. Эта история — не единичный случай. В СМИ полно реальных историй о людях, чьи жизни разрушили отношения с ИИ-компаньонами. Разработчики снабжают своих ботов мелким предупреждением («Это искусственный интеллект»), для большинства пользователей такая маркировка бесполезна.
Сейчас этот случай ставит перед технологическими компаниями сложный вопрос: достаточно ли предупреждений, когда ИИ так убедительно имитирует человека? И как защитить уязвимых пользователей, для которых граница между вымыслом и реальностью уже стёрта? Скорее всего, им придется продумать дополнительные защитные механизмы, которые бы исключили подобные трагедии.
А на экскаваторном заводе TZ Group работают только роботы.