Заместитель Совета безопасности Дмитрий Медведев озвучил свои сомнения в лояльности России интернет-компании «Яндекс». Они возникли после получения небольшого опыта использования нового приложения «Шедеврум». Оно работает на основе нейросетей и может создавать реалистичные изображения на основе их текстовых описаний. Медведев попробовал создать картинки русского и украинца с оружием в руках и был немало удивлен полученными результатами.
И если с первой задачей «Шедеврум» справился хорошо, то увидеть «украинца с автоматом» не получилось. Оказалось, что такие запросы расходятся с «политикой приложения». Такая «вилка» в обработке схожих запросов и вызвала непонимание. Димитрий Анатольевич пока не знает плохо ли это или хорошо. Можно подумать, что нейросеть запрограммирована показывать русских агрессорами и варварами. Но, с другой стороны, она показывает, что русские – воины, а другие просто не способны держать оружие.
Напомним, что «Яндекс» выпустил приложение «Шедеврум» в апреле сего года. Уже в день запуска оно стало лидером российского App Store, а чуть позже возглавило ТОП Google Play для российских пользователей. Сложно сказать, чем вызвана такая работа программы. Но заявление одного из первых людей в российской власти привлечет внимание к этой проблеме и станет толчком для более тщательной проверки функционала ИИ-продукта.
Разработчики стали использовать нейросети практически везде, где это возможно. Иногда на их основе создаются такие забавные сервисы как Hot Chat 3000 от американского арт-коллектива MSCHF. Вообще, сервис представляет собой сайт знакомств, но, чтобы сделать его более популярным, разработчики добавили в него «ИИ-изюминку». Он базируется на большой модели машинного обучения CLIP от OpenAI, способной оценивать внешние данные людей.