Искусственный интеллект

Способны ли нейросети «испытывать боль»?

Группа исследователей провела серию сложных экспериментов с девятью крупными языковыми моделями LLM, чтобы оценить их способность принимать решения, связанные с потенциальным «страданием» ради достижения лучшего результата. В одном из них моделям сообщалось о возможности «испытывать боль» при получении высокого балла, а во втором — о получении удовольствия только при низком результате. Целью исследования было разработать тест на определение разумности ИИ, то есть способности к переживанию чувств и эмоций, включая боль и удовольствие.

Способны ли нейросети «испытывать боль»?

Хотя языковые модели, возможно, никогда не смогут испытывать эти ощущения так же, как живые существа, исследователи считают, что их работа может стать основой для нового метода оценки разумности конкретной модели ИИ. При этом команда стремилась избежать подходов, основанных на самоотчетах о своих переживаниях, поскольку это могло быть простой имитацией данных из обучающего набора. Однако, в отличие от животных, у ЛЯМ нет наблюдаемых физиологических реакций, поэтому оценка основывалась исключительно на результатах их работы.

Результаты показали, что разные LLM по-разному оценивали важность избегания боли или получения удовольствия. Например, модель Google Gemini 1.5 Pro демонстрировала явную склонность к избеганию боли. Однако исследователи подчеркивают необходимость критического отношения к результатам. По их мнению, текстовый вывод ЛЯМ не может быть однозначно интерпретирован как признак разумности. Возможно, модель просто имитирует ожидаемую реакцию, основанную на данных обучения. Исследователи призывают к дальнейшим исследованиям в этой области, чтобы разработать надежные поведенческие тесты для определения разумности ИИ, не зависящие от самоотчетов.

Ранее мы писали, как победить боль без лекарств?

Следите за нашими статьями в Telegam, Дзен, VK и OK

По материалам
futurism.com

Александр Арефьев

Меня привлекают новые открытия, изобретения и инновации в самых разных областях. Я внимательно слежу за актуальными исследованиями, экспериментами и проектами, способными изменить мир. Я анализирую, сравниваю и оцениваю разные источники информации, а затем делюсь своими мыслями и выводами с читателями.

Добавить комментарий


Читайте так же:

Back to top button