top of page

Архив

Сколько энергии на самом деле будет потреблять ИИ? Хороший, плохой и неизвестный

Фото автора: Юджин ЛиЮджин Ли

Сколько энергии на самом деле будет потреблять ИИ? Хороший, плохой и неизвестный


Исследователи хотят, чтобы фирмы были более прозрачными в отношении требований искусственного интеллекта к электроэнергии.


Аромат сена и навоза висит над округом Калпепер, штат Вирджиния, где на каждые три человека есть корова. "У нас большие фермы, большинство из которых все еще принадлежат семье, и много лесов", - говорит Сара Пармели, одна из 55 000 жителей округа. "Это очень очаровательный маленький городок США", - добавляет она.


Но эта пасторальная идиллия находится в середине сдвига двадцать первого века. За последние несколько лет округ одобрил строительство семи крупных проектов центров обработки данных, которые будут поддерживать технологические фирмы в их обширных планах по генеративному искусственному интеллекту (ИИ). Внутри этих гигантских структур ряды компьютерных серверов помогут обучить модели искусственного интеллекта, стоящие за чат-ботами, такими как ChatGPT, и предоставить свои ответы на то, что может быть миллиардами ежедневных запросов со всего мира.


В Вирджинии строительство будет иметь глубокие последствия. Каждый объект, вероятно, потребляет столько же электроэнергии, сколько и десятки тысяч жилых домов, что потенциально повышает расходы для жителей и напрягает энергетическую инфраструктуру района за пределами ее возможностей. Пармели и другие в сообществе настоегаются аппетита центров обработки данных к электричеству, особенно потому, что Вирджиния уже известна как мировая столица центров обработки данных. В обзоре, опубликованном в декабре 2024 года, опубликованном в декабре 2024 года, было отмечено, что, хотя центры обработки данных приносят экономические выгоды, их рост может удвоить спрос на электроэнергию в Вирджинии в течение десяти лет.


«Откуда будет береться электричество?» Спрашивает Пармели, который картирует рост центров обработки данных в штате и работает в Экологическом совете Пьемонта, некоммерческой организации Организация со штаб-квартирой в Уоррентоне, штат Вирджиния. «Они все говорят: «Мы купим электроэнергию у следующего района». Но этот округ планирует купить у вас электроэнергию».


Подобные конфликты по поводу искусственного интеллекта и энергии назревают во многих местах по всему миру, где центры обработки данных прорастают рекордными темпами. Крупные технологические фирмы сильно делают ставку на генеративный ИИ, который требует гораздо больше энергии для работы по сравнению со старыми моделями искусственного интеллекта, которые извлекают шаблоны из данных, но не генерируют свежий текст и изображения. Это понушает компании коллективно тратить сотни миллиардов долларов на новые центры обработки данных и серверы для расширения своих мощностей.


С глобальной точки зрения, влияние ИИ на будущий спрос на электроэнергию на самом деле прогнозируется относительно небольшим. Но центры обработки данных сосредоточены в плотных кластерах, где они могут оказывать глубокое локальное воздействие. Они гораздо более концентрированы в пространстве, чем другие энергоемкие объекты, такие как сталелитейные заводы и угольные шахты. Компании, как правило, строят здания центров обработки данных близко друг к другу, чтобы они могли совместно делить энергетические сети и системы охлаждения, а также эффективно передавать информацию, как между собой, так и среди пользователей. Вирджиния, в частности, привлекла фирмы центров обработки данных, предоставив налоговые льготы, что привело к еще большей кластеризации.


"Если у вас есть один, у вас, скорее всего, будет больше", - говорит Пармели. В Вирджинии уже насчитывается 340 таких объектов, а Parmelee наметил 159 предлагаемых центров обработки данных или расширения существующих в Вирджинии, где на них приходится более четверти потребления электроэнергии в штате, согласно отчету EPRI, исследовательского института в Пало-Альто, Калифорния2. В Ирландии на центры обработки данных приходится более 20% потребления электроэнергии в стране, большинство из них расположены на окраине Дублина. А потребление электроэнергии объектами превысило 10% по крайней мере в 5 штатах США.


Еще больше усложняет ситуацию отсутствие прозрачности со стороны фирм в отношении требований к электроэнергии их систем искусственного интеллекта. "Реальная проблема заключается в том, что мы работаем с очень небольшим количеством подробных данных и знаний о том, что происходит", - говорит Джонатан Куми, независимый исследователь, который изучает использование энергии в вычислительной технике более 30 лет и руководит аналитической фирмой в Берлингейме, штат Калифорния.


"Я думаю, что каждый исследователь на эту тему сходит с ума, потому что мы не получаем то, что нам нужно", - говорит Алекс де Врис, исследователь Свободного университета Амстердама и основатель Digiconomist, голландской компании, которая исследует непредвиденные последствия цифровых тенденций. «Мы просто делаем все возможное, пробуя всевозможные трюки, чтобы придумать какие-то цифры».


Работа с энергетическими требованиями ИИ


Из-за отсутствия подробных данных фирм исследователи исследовали потребность искусственного интеллекта в энергии двумя способами. В 2023 году де Врис использовал метод цепочки поставок (или рыночный). Он изучил потребление мощности одного из серверов NVIDIA, который доминирует на рынке генеративного искусственного интеллекта, и экстраполировал это на энергию, необходимую в течение года. Затем он умножил эту цифру на оценки общего количества таких серверов, которые поставляются или которые могут потребоваться для конкретной задачи.


Де Врис использовал этот метод для оценки энергии, необходимой, если поиск Google использовал генеративный ИИ. Две энергетические аналитические фирмы подсчитали, что для внедрения ChatGPT-подобного ИИ в каждый поиск Google потребуется от 400 000 до 500 000 Серверы NVIDIA A100, которые, исходя из энергетического спроса этих серверов, будут составлять 23-29 тераватт-часов (ТВтч) в год. Затем, по оценкам, Google ежедневно обрабатывает до 9 миллиардов поисковых запросов (примерная цифра различных аналитиков), de Vries подсчитал, что каждый запрос через сервер искусственного интеллекта требует 7-9 ватт-часов (Вт-ч) энергии. Это в 23-30 раз больше энергии обычного поиска, судя по цифрам, сообщенным Google в блоге 2009 года. Когда его попросили прокомментировать оценку де Вриса, Google не ответил.


Этот расчет энергии был похож на «схватывание соломинки», говорит де Врис, потому что ему пришлось полагаться на оценки третьих лиц, которые он не мог повторить. И его цифры быстро устарели. Количество серверов, необходимых для интегрированного с искусственным искусственным интеллектом поиска в Google, сейчас, вероятно, будет ниже, потому что современные модели искусственного интеллекта могут соответствовать точности моделей 2023 года за небольшую часть вычислительной стоимости, как написала американская энергетическая аналитическая фирма SemiAnalysis (на чьи оценки полагался de Vries) в электронном письме в Nature.


Несмотря на это, фирма говорит, что лучший способ оценки энергетического следа генеративного ИИ по-прежнему заключается в мониторинге поставок серверов и их требований к мощности, что в целом является методом, используемым многими аналитиками. Тем не менее, аналитикам трудно изолировать энергию, используемую исключительно генеративным ИИ, потому что центры обработки данных, как правило, также выполняют задачи, не связанные с искусственным интеллектом.


Оценки снизу вверх


Другой способ изучения спроса на энергию ИИ - «снизу вверх»: исследователи измеряют потребность в энергии одного запроса, связанного с ИИ, в конкретном центре обработки данных. Тем не менее, независимые исследователи могут проводить измерения, используя только модели искусственного интеллекта с открытым исходным кодом, которые, как ожидается, будут напоминать запатентованные.


Концепция этих тестов заключается в том, что пользователь отправляет подсказку, например, запрос на создание изображения или текстовый чат, а затем программный пакет Python под названием CodeCarbon позволяет компьютеру пользователя получить доступ к техническим спецификациям чипов, которые выполняют модель в центре обработки данных. "В конце запуска он даст вам оценку того, сколько энергии было потреблено оборудованием, которое вы использовали", - говорит Саша Лукчони, исследователь ИИ, который помог разработать CodeCarbon и который работает в Hugging Face, фирме, базирующейся в Нью-Йорке, которая размещает платформу с открытым исходным кодом для моделей ИИ и наборов данных.


Лукчони и другие обнаружили, что разные задачи требуют разного количества энергии. В среднем, согласно их последним результатам, создание изображения из текстовой подсказки потребляет около 0,5 Втч энергии, в то время как генерация текста использует немного меньше. Для сравнения, современному смартфону может понадобиться 22 Втч для полной зарядки. Но существует большое разнообразие: более крупные модели требуют больше энергии. Де Врис говорит, что цифры ниже, чем в его статье, но это может быть связано с тем, что модели, используемые Luccioni и другими, по крайней мере на порядок меньше, чем модель, лежащая в основе ChatGPT, и потому, что ИИ становится более эффективным.


Comments


Featured

Счётчики

Чтобы общаться с участниками, войдите в аккаунт
Знакомьтесь и подписывайтесь на участников сообщества, оставляйте комментарии и т. д.

Старый Сайт

сайт.png

Важность

Веганства

вег.jpg

Аниме Радио

1479003_edited.png
bottom of page