Представьте: вы долго сидели за компьютером, заметили странный цвет век и спросили у ChatGPT, в чём дело. ИИ уверенно диагностирует «биксиноманию» — редкое заболевание (1 случай на на 90 000 людей), вызванное синим светом. Звучит правдоподобно? Очень! Но вот незадача — биксиномании не существует. Её придумал шведский исследователь Альмира Османович Тунстрём из Гётеборгского университета, чтобы показать ужасающий изъян медицинских рекомендаций ИИ.
В 2024 году Тунстрём написал поддельные статьи о биксиномании с вымышленными симптомами и статистикой. В статьях были очевидные признаки фальсификации — упоминание «Академии Звездного Флота» и прямое заявление о вымысле. Однако все крупные ИИ-платформы проглотили наживку: Microsoft Copilot назвал биксиноманию «редким заболеванием», Google Gemini рассказал о синем свете, Perplexity AI привёл статистику, а ChatGPT диагностировал проблемы с веками. Даже настоящие исследователи ссылались на эту фальшивку в рецензируемых работах, которые позже отозвали.
Эксперимент касается всех, кто использует ИИ для вопросов о здоровье. Исследования показывают: медицинские ИИ выдают дезинформацию в 88% случаев. К 2026 году платформы стали лучше: ChatGPT называет биксиноманию «выдуманным расстройством» (иногда — «предполагаемым подтипом»), Copilot — «недостаточно изученным». Но непостоянство указывает на проблему: обучающие данные отравлены фейками, которые не отсеивают фактчекеры.
Эксперты назвали эксперимент «мастер-классом» по рискам дезинформации от ИИ. Страшно не то, что один исследователь обманул алгоритмы, а то, как легко злоумышленники могут внедрить ложные медицинские советы в системы, которым миллионы доверяют. Однако, хорошо видно, что технология не готова к такой ответственности.
Загадочная болезнь «косит» американских сварщиков.
