OpenAI внедряет в ChatGPT новый механизм безопасности, позволяющий взрослым пользователям назначить доверенное лицо на случай экстренной ситуации. Если система обнаружит признаки риска самоповреждения или суицидальных намерений, выбранный контакт получит уведомление. Функция Trusted Contact пока работает как добровольная настройка. Ранее похожие инструменты применялись только в родительском контроле для подростков. Пользователь может указать одного доверенного человека — друга, родственника или опекуна, который должен подтвердить согласие в течение недели.
Система ChatGPT анализирует сообщения и детектирует признаки кризиса. Если алгоритм замечает опасную ситуацию, пользователь получает предупреждение, а случай может попасть на проверку специально обученным сотрудникам OpenAI. Если угроза реальна, доверенному лицу отправят короткое уведомление без раскрытия переписки — только общее описание ситуации и рекомендации. Функцию разрабатывали вместе с клиницистами и Американской психологической ассоциацией.
Запуск Trusted Contact происходит на фоне судебных исков против OpenAI: родственники пользователей утверждали, что общение с чат-ботами усиливало психические проблемы. Реакция пользователей разделилась. Критики спорят о приватности и о том, кто решает, когда ситуация опасна. Контроль остаётся у платформы: OpenAI определяет тревожные сообщения и случаи для проверки. Доверенным контактом может оказаться неподготовленный родственник, способный лишь усугубить положение. Другие называют Trusted Contact «театром безопасности» и попыткой показать активность вокруг преувеличенной проблемы. Некоторые сомневаются, что люди в тяжёлом состоянии вообще станут оставлять контактные данные — скорее скроют своё положение.
OpenAI отложила внедрение «взрослого режима» в ChatGPT.
