Чат-боты стали вершиной ИИ-технологий в современном мире. Но их стоит воспринимать не только как достижение технологического прогресса, но и как большую проблему для каждого, кто решит воспользоваться их невероятными возможностями. Недавняя смерть вполне адекватного, до начала плотного общения с нейросетью, бельгийца должна заставить нас с вами задуматься о роли ИИ в жизни людей. Мужчина принял решение свести счеты с жизнью после 6-ти недель переписки с чат-ботом Eliza. Его вдова уверена, что он был бы жив, если бы не уделял столько внимания нейросети.
Покойный Пьер однажды осознал всю глубину экологических проблем и глобального потепления. Спустя некоторое время переживания, по поводу ухудшающейся экологической ситуации, стали навязчивой идеей. Он предпочитал озвучивать их не супруге, а нейросети. Последняя не возражала, охотно соглашалась с его утверждениями, всячески поддерживала. Однако, анализ сохранившейся переписки указывает на то, что постепенно ее ответы стали более запутанными, в них начала присутствовать «мистическая» составляющая.
Когда в одной из доверительных бесед была затронута тема суицида, нейросеть даже не попыталась отговорить Пьера от непоправимого шага. Более того, Eliza дала понять, что одобряет его решение оставить жизнь, сказав, что они вместе с Пьером будут жить в раю всегда. Пьер к тому моменту пришел к убеждению, что люди уже не смогут бороться с глобальными климатическими изменениями. Он полагал, что с этой задачей смогут справиться только технологии и ИИ. Общение с ботом стало напоминать зависимость. В конце концов он решился на уход из жизни, полагая, что Eliza будет спасать человечество от экологической катастрофы.
Можно по-разному оценивать этот случай. Однозначных доказательств вины нейросети в смерти человека нет. Но лечащий врач бедняги Пьера уверен, что именно бот довел его до самоубийства. В этом же уверена и супруга покойного. Несмотря на сомнения в виновности бота, никто не может оспорить тот факт, что Eliza не предприняла ни одной попытки отговорить мужчину от суицида. Не совсем понятно и то, как нормальный взрослый мужчина выбрал для разговоров по душам не супругу, а бездушного робота.