ChatGPT может оказаться не таким требовательным к ресурсам, как считалось ранее
Обычная статистика гласит, что чат-боту ChatGPT для ответа на один вопрос требуется около 3 ватт-часов энергии, что в 10 раз больше, чем требуется для поиска в Google. Научно-исследовательский институт Epoch AI, изучающий ключевые тенденции и вопросы, которые будут определять траекторию развития и управления искусственным интеллектом, считает, что эта оценка завышена. Используя в качестве эталона GPT-4o, новейшую модель OpenAI для ChatGPT, исследователи обнаружили, что средний запрос ChatGPT потребляет около 0,3 Вт·ч, т.е. меньше, чем многие бытовые приборы.
«Расход энергии на самом деле не так уж и велик по сравнению с использованием обычных бытовых приборов, отоплением или системами охлаждения дома», — рассказал Джошуа Ю, аналитик данных из Epoch AI.
Энергопотребление ИИ — и его воздействие на окружающую среду, в целом — является предметом острых дебатов, поскольку компании занимающиеся разработкой искусственного интеллекта быстро расширяют свое присутствие в инфраструктуре. Буквально на прошлой неделе группа из более чем 100 организаций опубликовала открытое письмо, призывающее индустрию ИИ и регулирующие органы гарантировать, что новые центры обработки данных ИИ не истощат природные ресурсы и не вынудят коммунальные службы полагаться на не возобновляемые источники энергии.
Ю сказал, что его анализ был вызван тем, что предыдущие исследования устарели, а автор отчета, который пришел к оценке в 3 ватт-часа, предполагал, что OpenAI использует для запуска своих моделей старые, менее эффективные чипы.
«Я видел много публичных рассуждений, в которых правильно признавалось, что в ближайшие годы ИИ будет потреблять много энергии, но не совсем точно описывалось количество энергии, которое тратится на ИИ сегодня», — сказал Ю. «Кроме того, некоторые из моих коллег заметили, что наиболее широко распространенная оценка в 3 ватт-часа на запрос была основана на довольно старых исследованиях и оказалась слишком высокой».
Конечно, цифра, полученная исследователями Epoch AI, в 0,3 Вт·ч также является приблизительной. Анализ не учитывает дополнительные затраты энергии, которые требуются ChatGPT для таких функций, как генерация изображений или обработка логического ввода. Ю признал, что запросы ChatGPT с «длинным вводом» — например, запросы с длинными прикрепленными файлами — скорее всего, потребляют больше электроэнергии, чем типичный запрос.
«В будущем искусственный интеллект станет более продвинутым, его обучение, вероятно, потребует гораздо больше энергии, чем требуется сегодня. Этот будущий искусственный интеллект будет использоваться гораздо интенсивнее для решения большего количества и значительно более сложных задач», — сказал Ю.
Внимание OpenAI — наряду с остальной частью отрасли ИИ — также переключается на модели рассуждений, которые, как правило, более способны с точки зрения выполнения задач, но требуют больше вычислений для запуска. В отличие от моделей, таких как GPT-4o, которые отвечают на запросы почти мгновенно, модели рассуждений прежде чем ответить «думают» в течение нескольких секунд или даже минут. Это процесс, который требует больше вычислений — и, следовательно, больше мощности.
«Модели рассуждений будут все чаще браться за задачи, которые не под силу старым моделям, и генерировать для этого больше данных, и для того и другого потребуется больше центров обработки данных», — добавил Ю.
Компания OpenAI начала выпускать более энергоэффективные модели рассуждений, такие как o3-mini. Но пока представляется маловероятным, что рост эффективности от процесса «мышления» моделей компенсирует возросшие требования к мощности и растущее использование ИИ по всему миру.
