С ноября 2022 года, после появления первой общедоступной языковой модели ChatGPT, технологии ИИ стремительно развиваются и проникают во все сферы нашей жизни. Несмотря на то, что LLM позиционируются как «искусственный интеллект», они не обладают настоящим интеллектом, а представляют собой сложные алгоритмы, создающие иллюзию разума благодаря продуманной структуре и большому объему предоставленных данных.
К сожалению, администрация Йельского университета еще не усвоила этот урок. Недавний случай с Хели Даутаги, специалистом по международному праву, наглядно демонстрирует опасность использования ИИ в политических целях. Даутаги работала заместителем директора проекта «Право и политическая экономия» Йельского университета. Ее работа была прервана после обвинений в «терроризме», выдвинутых крайне правым блогом Jewish Onliner, который заявляет о своей связи с технологиями ИИ.
В данном случае блог обвинил Даутаги в членстве в «Самидун», международной правозащитной организации, занимающейся защитой прав палестинских политических заключённых. Несмотря на отсутствие доказательств, обвинения блога, работающего с ИИ, были использованы администрацией университета в качестве основания для отстранения Даутаги от работы и запрета ей посещать кампус. Быстрота, с которой обвинения, выдвинутые с помощью ИИ, были приняты, вызывает серьезные опасения по поводу свободы слова.
Попытки использовать ИИ в качестве «эксперта» могут привести к печальным и даже трагическим последствиям. Участившиеся случаи, когда ИИ буквально «проваливает» возложенную на него миссию в чувствительных областях, четко дают понять, что растущее доверие людей к ИИ-технологиям явно преждевременно.
Также было установлено, что ИИ выдает ошибки при обработке 60% поисковых запросов.
