В эпоху ИИ-агентов уже недостаточно спросить, сколько электроэнергии потребляет один чат-бот. Современные модели — это сложные системы для автономного выполнения задач. Они состоят не только из языковых моделей, но и множества инструментов, требующих куда больше ресурсов. Это делает расчёт энергопотребления ещё сложнее. А поскольку ведущие лаборатории хранят молчание о внутренних затратах, точно сказать, как ИИ-помощники влияют на электросети, практически невозможно.
Климатологи подсчитали, сколько энергии потребляют сеансы работы с Claude Code — помощником по написанию кода от Anthropic. Измерив количество токенов, он вычислил, что среднесуточное потребление составляет до пяти 5,9 кВт*час. Это больше, чем два холодильника, работающие круглые сутки. Большая часть токенов уходит на то, что агент «перечитывал собственную рабочую память». Это происходит на каждом новом шаге. Для оценки энергопотребления это критично: перечитать кэшированный токен дешевле, чем обработать новый.
Экстраполируя на год, специалисты утверждают, что агент выбросит в атмосферу немного больше, чем при работе электрической сушилки для белья, и примерно вдвое меньше, чем при поездке на электромобиле на 11 500 миль. Может показаться, что это немного, но с учётом всех пользователей ИИ сумма внушительная. Кроме того, это новый источник выбросов в момент, когда глобальная температура растёт, а цели по сокращению отклоняются от курса.
Также есть мнение, что данный расчет является «хорошей попыткой», а методика несколько устарела. Ожидается, что новые расчеты, учитывающие новые влияющие аспекты работы ИИ-агентов, могут привести куда более пугающие цифры, которые раскроют истинную стоимость использования интеллектуальных агентов.
Новый материал снизит потребление микросхем памяти на порядок.