Google сократила энергозатраты на ИИ в 33 раза за год
Google опубликовала редкий анализ влияния ИИ на энергопотребление, основанный на реальных данных из своих дата-центров. Компания отслеживает энергию, используемую процессорами, ИИ-ускорителями, памятью, а также охлаждение и воду. Также учитываются выбросы углекислого газа при производстве оборудования. Не учитывается только энергия пользователей, сети и обучение моделей.
По оценке Google, один текстовый запрос через их ИИ использует всего 0,24 ватт-часа, выделяет 0,03 г CO₂ и потребляет 0,26 мл воды — примерно столько же, сколько за 9 секунд просмотра телевизора в США.
Главное достижение — оптимизация. Использование подхода Mixture-of-Experts позволяет активировать только часть модели, снижая нагрузку в 10−100 раз. Также компания создаёт собственные ИИ-ускорители и оптимизирует их работу.
Эти меры, как заявила компания, позволили снизить энергопотребление на запрос в 33 раза за год. Даже с учётом огромного числа запросов, общая нагрузка на экологию теперь гораздо меньше.