Компания OpenAI внесла коррективы в свою политику модерации, смягчив запреты на контент для взрослых. В обновлённой версии внутреннего документа, регламентирующего поведение языковых моделей, осталось лишь одно существенное ограничение — запрет на материалы с участием несовершеннолетних. Это изменение стало ответом на многочисленные запросы пользователей, длительное время выступавших за либерализацию правил. На практике алгоритмы не сразу адаптировались к новым условиям. Как отмечали участники сообщества, фильтры то ослабевали, то вновь начинали блокировать откровенные описания через метафорические конструкции.
Ситуация сдерживалась до недавнего времени — теперь же, согласно анонсу на DevDay 2025, компания готовится к запуску верификации возраста, после чего откроет доступ к «зрелым приложениям». Подобный шаг вызывает законные вопросы о возможных рисках. Пример таких систем, как Grok, демонстрирует, как быстро технологии генерации могут быть обращены на создание эксплуатационного контента. В других сегментах интернета уже фиксируются случаи появления дипфейков без согласия изображённых лиц.
Данный эпизод — не первое расхождение между декларируемыми принципами OpenAI и реальным поведением их моделей. Сложность заключается в природе больших языковых моделей, чья настройка после обучения сопряжена с непредсказуемыми эффектами — иногда новые версии демонстрируют регресс в качестве фильтрации. Это создаёт поле для отсрочки внедрения полноценных защитных механизмов. Усугубляет ситуацию закрытость компании, чьи операционные решения всё чаще координируются с государственными структурами. Очевидно, что открытие доступа к генерации контента для взрослых повлечёт за собой длительный период кризиса модерации.
Тем временем DeepSeek вводит тотальную маркировку контента в Китае.