Способны ли нейросети «испытывать боль»?
Группа исследователей провела серию сложных экспериментов с девятью крупными языковыми моделями LLM, чтобы оценить их способность принимать решения, связанные с потенциальным «страданием» ради достижения лучшего результата. В одном из них моделям сообщалось о возможности «испытывать боль» при получении высокого балла, а во втором — о получении удовольствия только при низком результате. Целью исследования было разработать тест на определение разумности ИИ, то есть способности к переживанию чувств и эмоций, включая боль и удовольствие.
Хотя языковые модели, возможно, никогда не смогут испытывать эти ощущения так же, как живые существа, исследователи считают, что их работа может стать основой для нового метода оценки разумности конкретной модели ИИ. При этом команда стремилась избежать подходов, основанных на самоотчетах о своих переживаниях, поскольку это могло быть простой имитацией данных из обучающего набора. Однако, в отличие от животных, у ЛЯМ нет наблюдаемых физиологических реакций, поэтому оценка основывалась исключительно на результатах их работы.
Результаты показали, что разные LLM по-разному оценивали важность избегания боли или получения удовольствия. Например, модель Google Gemini 1.5 Pro демонстрировала явную склонность к избеганию боли. Однако исследователи подчеркивают необходимость критического отношения к результатам. По их мнению, текстовый вывод ЛЯМ не может быть однозначно интерпретирован как признак разумности. Возможно, модель просто имитирует ожидаемую реакцию, основанную на данных обучения. Исследователи призывают к дальнейшим исследованиям в этой области, чтобы разработать надежные поведенческие тесты для определения разумности ИИ, не зависящие от самоотчетов.
Ранее мы писали, как победить боль без лекарств?