Неожиданным чемпионом в мире искусственного интеллекта оказался вовсе не суперкомпьютер, а легендарная игровая приставка Atari 2600, выпущенная в далёком 1977 году. Этот ретро-гаджет с мизерными по современным меркам 128 байтами ОЗУ буквально «положил на лопатки» передовые языковые модели, инвестиции в которые исчисляются миллиардами долларов. В ходе опыта ChatGPT от OpenAI, работающий на тысячах видеокарт и использующий триллионы параметров, потерпел сокрушительное поражение в шахматном поединке против скромной Atari.
Нейросеть допустила столько ошибок, что её уровень игры не дотягивал даже до начинающего шахматиста. Эта история получила неожиданное продолжение. Когда инженер Роберт Карузо предложил аналогичный матч чат-боту Gemini от Google, ИИ сначала самоуверенно пообещал легкую победу, но затем неожиданно отказался от соревнования. В качестве предлога была приведена странная отговорка о «разумной экономии времени». Когда Карузо указал на это несоответствие, ИИ моментально сменил тон, признав, что противостояние с Atari будет для него «очень сложным».
Этот курьёзный случай вскрывает несколько важных проблем современных языковых моделей. Это не только склонность к необоснованной самоуверенности и проблема «галлюцинаций», но и чрезмерная зависимость от настроения собеседника. Подобные «проверки реальности» необходимы не только для забавных шахматных экспериментов. Они помогают сделать ИИ более надёжным и безопасным инструментом, особенно в ситуациях, где ошибки имеют неочевидные, но серьёзные последствия. Хотя, конечно, было бы наивно приписывать Atari какие-то мистические способности. Просто иногда старые, узкоспециализированные системы оказываются эффективнее современных универсальных решений в конкретных задачах.
Ранее ученые установили, что ИИ, поняв, что проигрывает в шахматы, начинает изощренно жульничать.