Новый отчет компании UpGuardraises серьезные вопросы относительно конфиденциальности и этических аспектов использования открытых сервисов искусственного интеллекта. Исследование, показало, что некоторые сайты чат-ботов для взрослых публикуют личные данные пользователей в открытый доступ. Анализ 400 «открытых» сервисов ИИ, работающих на протоколе llama.cpp, выявил 117 IP-адресов, передающих запросы пользователей в общедоступную среду. В течение суток UpGuard собрал почти 1000 утечек пользовательских чатов, среди которых 5 содержали материалы, связанные с сексуальным насилием над детьми.
Хотя UpGuard не смогла идентифицировать конкретные сайты или сервисы, стало ясно, что на них присутствуют чат-боты для ролевых игр, позволяющие пользователям воплощать определенные «персонажи». Данный отчет вызывает беспокойство на нескольких уровнях. Во-первых, утечка личных данных пользователей, участвующих в интимных беседах с ИИ-чат-ботами, является серьезным нарушением конфиденциальности. Во-вторых, открытый доступ к таким данным демонстрирует темную сторону генеративного ИИ, где нерегулируемые сервисы используются для реализации жестоких и опасных сексуальных фантазий.
По мнению вице-президента UpGuard Грега Поллока, это далеко не первый случай, когда генеративный ИИ используется для создания или потребления детской порнографии. Недавние инциденты с утечками данных в южнокорейском стартапе по созданию изображений с помощью ИИ и у провайдера чат-ботов Botify AI подтверждают эту тенденцию. Эти случаи подчеркивают необходимость более строгих мер контроля и регулирования использования генеративного ИИ, чтобы предотвратить его злоупотребление.
А вы знаете, что умирающий интернет захватили чат-боты?
