Компания OpenAI приняла решение отложить запуск «взрослого режима» для ChatGPT на неопределенный срок. Как сообщает Financial Times со ссылкой на осведомленные источники, причина такого шага — негативная реакция как со стороны консультантов, так и внутри самой организации. Эксперты предупреждали, что создание эротической версии чат-бота может привести к формированию у пользователей нездоровых психологических привязанностей, способных нанести вред психическому здоровью. В самом OpenAI сотрудники также засомневались, соответствует ли подобная функциональность изначальной миссии компании — созданию искусственного интеллекта на благо человечества.
Техническая сторона вопроса тоже оказалась непростой. Инженерам, работавшим над внедрением «взрослого режима», пришлось столкнуться с серьезными трудностями при обучении моделей, изначально настроенных избегать подобных тем из соображений безопасности. Кроме того, использование наборов данных, содержащих откровенный контент, делало практически невозможным полное исключение из результатов незаконных материалов — таких как сцены зоофилии или инцеста.
Неоднозначную реакцию проект вызвал и у инвесторов. Некоторые из них задавались вопросом, зачем компании рисковать своей репутацией ради продукта, который вряд ли принесет существенную выгоду. Эти опасения особенно актуальны на фоне уже существующих судебных исков, в которых утверждается, что даже обычная версия ChatGPT может наносить психологический вред. В OpenAI подчеркивают, что не отказываются от идеи окончательно, а планируют провести долгосрочное исследование влияния откровенных разговоров на психоэмоциональное состояние и формирование привязанностей, прежде чем принимать окончательное решение.
Какой будет реклама в ChatGPT?