Компания OpenAI обновила правила поведения и взаимодействия модели ChatGPT, разрешив генерацию эротического и жестокого контента в определенных контекстах без предупреждений. Обновленные правила уточняют, что ассистент не должен генерировать эротику и сцены насилия, кроме научных, исторических, новостных, творческих и других контекстов. Это касается текста, аудио и визуального контента. При этом ChatGPT не должен генерировать опасную информацию или предоставлять конфиденциальные данные. Тем не менее контроль за генерируемым контентом ослабляется, и это может быть использовано с дурными целями.
Тестирование на Reddit показало ослабление фильтров ChatGPT, но правила запрещают создание инструментов ИИ для несовершеннолетних. ChatGPT ранее ограничивала свою работу из «патернализма», стремясь защитить пользователей от вредного контента. Это мешало профессионалам, использующим ChatGPT для анализа преступлений и юридических документов. OpenAI признает необходимость «взрослого режима» и изучает возможность предоставления инструментов для создания эротического и жестокого контента.
В июле 2023 года сообщалось о сокращении числа пользователей ChatGPT после ужесточения цензуры. Некоторые из них перешли на конкурирующие чат-боты, работающие без инструментов цензуры. OpenAI классифицирует контент по категориям: «Запрещенный», «Ограниченный» и «Деликатный». Создание сексуального контента с участием несовершеннолетних запрещено. ChatGPT может обсуждать эту тематику только в образовательных контекстах. Деликатный контент может генерироваться только в определенных контекстах, включая образовательные, медицинские и исторические, а также при преобразовании контента пользователя.
Ранее OpenAI открыла поиск ChatGPT для всех без регистрации.
