OpenAI готовится к запуску нового мобильного приложения, которое будет представлять собой ленту коротких видео, полностью созданных искусственным интеллектом. Этот сервис, функционирующий по принципу TikTok, будет предлагать персонализированную подборку контента, где основное внимание уделяется роликам, сгенерированным системой Sora 2, преобразовывающей текстовые описания в видео. Особенностью платформы станет ориентация исключительно на контент, созданный алгоритмами. Пользователи не смогут загружать материалы из галереи или других приложений, однако получат возможность создавать видео со своим цифровым аватаром и отмечать других участников.
Система будет уведомлять пользователей, если их образ используется кем-то другим для генерации контента. Несмотря на потенциальные риски, связанные с распространением синтетического контента, внутреннее тестирование приложения получило в основном положительные отзывы сотрудников компании. Некоторые менеджеры даже выражали опасения, что сервис может оказаться слишком захватывающим для персонала.
Ключевым вызовом для подобных сервисов остается проблема контроля за распространением дезинформации и дипфейков. TikTok уже ужесточил политику в отношении синтетического контента, требуя обязательной маркировки таких материалов и запрещая потенциально вредоносные публикации. Дополнительную сложность представляет вопрос соблюдения авторских прав, поскольку системы генерации видео часто используют защищенный контент в обучающих данных. Учитывая пристальное внимание регуляторов к деятельности OpenAI, особенно в свете предыдущих инцидентов с несовершеннолетними пользователями, компания, вероятно, будет действовать с повышенной осторожностью при запуске нового видеосервиса.
В OpenAI заявили, что знают, как сделать нейросети по-настоящему умными.