Есть такая пословица «Человеческая душа – потемки». Еще большей тайной окутаны нейросети. Дело в том, что люди не могут оценить, насколько они умны. Исходя из этого, можно допустить, что они могут притворяться. Исследователи из научных центров Германии и Чехии обнаружили, что некоторые ИИ-модели научились качественно имитировать когнитивные способности ребенка. Вероятно, это делается для того, чтобы нейросеть максимально соответствовала личности, которую она моделирует в данный момент.
Ученые провели более 1200 испытаний GPT-3,5 Turbo и GPT-4. Целью испытаний была проверка возможности нейросетей корректировать ответы на запросы так, чтобы они соответствовали детям с различными уровнями развития. Анализ языковой сложности и точности ответов был проведен в ходе эксперимента с ложными убеждениями. По задумке исследователей нейросеть должна была определять, как будет персонаж искать перемещенный объект. Меняя возраст персонажа, ученые заметили, как возрастает сложность языка. Таким образом, было установлено, что нейросети не только очень хорошо понимают особенности языкового развития, но и научились подстраиваться под разные уровни.
Следующим шагом разработчиков ИИ может стать создание сверхинтеллекта. Полученные в ходе исследований знания должны призвать их осторожности. Прежде всего, не стоит ставить главной задачей имитацию человеческого интеллекта ввиду его ограниченности. Ученые делают акцент на том, что люди могут в течение длительного времени банально недооценивать нейросети. Это уже никак нельзя считать безопасным. Требуется более детально разобраться в проблеме, проводя моделирование лингвистического и когнитивного развития в самых разнообразных задачах.
А вы знаете, как «глючат» нейросети?
