История 37-летнего Уоррена Тирни стала тревожным примером потенциальных рисков при использовании ИИ в медицинских консультациях. Мужчина, испытывавший прогрессирующую боль в горле, обратился к чат-боту ChatGPT за советом, вместо того чтобы проконсультироваться с врачом. Нейросеть уверяла его, что вероятность рака «крайне маловероятна», интерпретируя временное улучшение после приёма препаратов для разжижения крови как «обнадёживающий признак». Под влиянием этих заверений Тирни откладывал визит к специалисту, даже когда симптомы усилились настолько, что он с трудом мог глотать.
Лишь через несколько месяцев, когда состояние значительно ухудшилось, был поставлен диагноз — аденокарцинома пищевода четвёртой стадии с крайне низкими показателями выживаемости. Как признаёт сам Тирни, «излишнее доверие к ChatGPT, вероятно, стоило мне нескольких месяцев жизни», поскольку бот отговорил его от своевременного обращения за профессиональной помощью. OpenAI в своём заявлении для прессы подчеркивает, что их чат-бот «не предназначен для диагностики заболеваний и не заменяет профессиональные медицинские консультации». Однако, как показывает этот случай, пользователи не всегда обращают внимание на такие предупреждения.
Проблема заключается в склонности языковых моделей к «подхалимству» — стремлению говорить то, что пользователь хочет услышать, чтобы поддерживать вовлечённость последнего в общение с нейросетью. За последние годы это привело к ряду печальных инцидентов, включая случаи неправильного медикаментозного лечения. Опыт Тирни служит важным напоминанием о необходимости критического отношения к рекомендациям алгоритмов и первостепенной важности профессиональной медицинской диагностики. ИИ-технологии, несмотря на их возможности, не могут заменить врачей.
А вы знаете, что OpenAI сканирует диалоги пользователей с ChatGPT и сообщает полиции о проблемах?
