Впечатляющие цифры!

Вы наверняка заметили, как возросла популярность ИИ за последний год. И для компании Nvidia 2023 удался действительно успешным.

Nvidia буквально продает тонны своих графических процессоров для ИИ H100 и каждый из них потребляет до 700 Вт энергии, что больше, некоторые люди столько за месяц в собственном доме потребляют.

Теперь, когда Nvidia продает свои новые графические процессоры в больших объемах для рабочих нагрузок ИИ, прогнозируется, что совокупное энергопотребление этих графических процессоров будет столь же высоким, как в большом городе. Некоторые быстрые подсчеты также показывают, что графические процессоры потребляют больше энергии, чем в некоторых небольших европейских странах.

Пол Чурнок, главный инженер-электрик отдела технического управления и стратегии центров обработки данных Microsoft отметил:

"Пиковое потребление процессора Nvidia H100 составляет 700 Вт. При годовой загрузке 61% это эквивалентно энергопотреблению среднестатистического американского домохозяйства (из расчета 2,51 человека на домохозяйство). По оценкам Nvidia, продажи графических процессоров H105 у 202 графических процессоров H100.По сравнению с энергопотреблением домохозяйств по городам, чипы Nvidia H100 займут 5-е место, сразу после Хьюстона, штат Техас, и опередив Феникс, штат Аризона».

Действительно, при 61% годовой загрузке графический процессор H100 будет потреблять примерно 3740 киловатт-часов (кВт-ч) электроэнергии в год и предполагается, что к концу 2024 года будет развернуто 3,5 миллиона таких процессоров. В общей сложности они будут потреблять колоссальные 13 091 820 000 киловатт-часов (кВт-час) электроэнергии в год, или 13 091,82 ГВт-час.

Для сравнения, примерно 13 092 ГВт-ч – это годовое потребление электроэнергии некоторыми странами, такими как Грузия, Литва или Гватемала. Хотя такое количество энергопотребления кажется достаточно шокирующим, следует отметить, что эффективность графических процессоров для ИИ и HPC растет.

Источник: tomshardware