Нейросеть OpenAI, представленная недавно, для генерации изображений демонстрирует впечатляющие возможности в создании текста внутри изображения, что ранее представляло собой значительную трудность для подобных систем. К сожалению, эта способность открывает дорогу для создания поддельных документов, как было отмечено многими пользователями. В качестве примера приводится публикация директора Menlo Ventures Диди Даса в соцсети, где он представил изображение фальшивого чека из дорогого ресторана в Сан-Франциско. Высокое качество изображения, включающее детализацию блюд, верный расчет общей суммы и чаевых, ставит под вопрос надежность визуальной информации в цифровой среде.
Данный случай является лишь одним из многих. Пользователи сообщают о возможности создания фейковых рецептов на контролируемые вещества с помощью той же модели. Такая продвинутая функциональность OpenAI свидетельствует о значительном прогрессе в области генерации изображений на основе ИИ-технологий. В то время как предыдущие модели часто допускали ошибки при воспроизведении букв, современные системы способны создавать весьма убедительные подделки документов. Это открывает опасные перспективы для мошеннических действий, от фальсификации банковских чеков и налоговых деклараций до создания поддельных свидетельств о рождении и удостоверений личности.
В настоящее время не существует надежных методов обнаружения таких фальшивок. Меры защиты, такие как водяные знаки или метаданные, могут быть легко обойдены. Таким образом, мы сталкиваемся с серьезной проблемой доверия к визуальной информации в онлайн-пространстве, требующей немедленного внимания со стороны разработчиков, исследователей и законодателей.
Тем временем нейросеть GigaChat напишет свою версию второго тома «Мертвых душ».
