Исследователи из Цюрихского университета, в рамках секретного эксперимента, использовали армию чат-ботов с ИИ для участия в дискуссиях на r/changemyview. Целью эксперимента было изучение потенциала ИИ в изменении взглядов пользователей. Чат-боты, маскируясь под реальных людей, в том числе под жертву сексуального насилия и чернокожего мужчину, выступающего против движения Black Lives Matter, использовали информацию из истории сообщений пользователей для повышения убедительности своих аргументов.
Результаты эксперимента вызвали серьезную озабоченность. Такая практика, по сути, являлась формальным испытанием теории «мёртвого интернета», согласно которой большая часть контента в интернете генерируется ИИ. Эксперимент особенно ценен и актуален на фоне растущей сложности отличить контент, созданный людьми, от контента, созданного ИИ. Стоит отметить, что в этом году модель GPT-4.5 от OpenAI успешно прошла тест Тьюринга в 73% случаев, когда ей давалось задание принять образ человека.
Однако использование ботов без ведома и согласия пользователей грубо нарушает этические нормы. Ученые неоднократно предупреждали о потенциальном злоупотреблении этой технологией для проведения дезинформационных кампаний, сеяния хаоса и даже влияния на выборы. Действия исследователей из Цюрихского университета вызвали волну негодования на Reddit. В результате университет дистанцировался от своих исследователей, а Reddit рассматривает возможность подачи иска против них.
Главный юрист Reddit Бен Ли заявил, что действия исследователей «глубоко ошибочны с моральной и юридической точки зрения». Он подчеркнул, что эксперимент нарушил академические нормы, права человека и правила Reddit. В ответ на критику Цюрихский университет решил не публиковать результаты исследования. Комитет по этике университета признал, что эксперимент был «исключительно сложным» и объявил о планах ужесточить процедуру рецензирования в будущем. Сам факт того, что исследователи до сих пор не раскрыли свои имена и общались со СМИ через псевдонимный электронный адрес, свидетельствует о серьезных этических проблемах, связанных с этим экспериментом.
Ранее мы писали о том, правда или вымысел, что интернет мертв?
