Nvidia H100 GPU-ovi će trošiti više električne energije od nekih zemalja — svaka GPU troši 700W
Nvidia doslovno prodaje tone svojih H100 AI GPU-ova, a svaka GPU troši do 700W električne energije, što je više od prosečnog američkog domaćinstva.
Dosta AI GPU-ova troši velike količine električne energije
S obzirom na to da Nvidia prodaje svoje nove GPU-ove u velikim količinama za AI radna opterećenja, predviđa se da će agregirana potrošnja energije ovih GPU-ova biti visoka kao i potrošnja energije jednog većeg američkog grada. Brza procena takođe otkriva da će GPU-ovi trošiti više energije nego neke manje evropske zemlje.
Ukupna potrošnja energije data centara koji se koriste za AI aplikacije danas je uporediva sa potrošnjom energije države Kipar, procenila je francuska firma Schneider Electric u oktobru. Ali šta je sa potrošnjom energije najpopularnijih AI procesora — Nvidia H100 i A100?
Pol Čarnok, glavni elektroinženjer Tehničkog upravljanja i strategije data centara u Microsoftu, smatra da će Nvidia-ina H100 GPU trošiti više električne energije od svih domaćinstava u Feniksu, Arizona, do kraja 2024. godine kada će milioni ovih GPU-ova biti implementirani. Međutim, ukupna potrošnja energije biće manja od većih gradova, poput Hjustona, Teksasa.
“Ovo je Nvidia H100 GPU; ima vršnu potrošnju energije od 700W”, napisao je Čarnok u objavi na LinkedIn-u. “Pri godišnjoj iskorišćenosti od 61%, ekvivalentan je potrošnji energije prosečnog američkog domaćinstva (na osnovu 2,51 osobe po domaćinstvu). Nvidia-ina procena prodaje H100 GPU-ova je od 1,5 do 2 miliona H100 GPU-ova do 2024. godine. U poređenju sa potrošnjom električne energije domaćinstava po gradovima, čipovi H100 bi se rangirali kao peti najveći, odmah iza Hjustona, Teksasa, a ispred Feniksa, Arizone.”
Zaista, pri godišnjoj iskorišćenosti od 61%, H100 GPU će trošiti oko 3.740 kilovat-sati (kWh) električne energije godišnje. Pretpostavljajući da Nvidia proda 1,5 miliona H100 GPU-ova u 2023. i dva miliona H100 GPU-ova u 2024, do kraja 2024. godine biće implementirano 3,5 miliona takvih procesora. Ukupno će potrošiti ogromnih 13.091.820.000 kilovat-sati (kWh) električne energije godišnje, ili 13.091,82 GWh.
Da stvari stavimo u kontekst, otprilike 13.092 GWh je godišnja potrošnja energije nekih zemalja, poput Gruzije, Litvanije ili Gvatemale. Iako ova količina potrošnje energije deluje prilično šokantno, treba napomenuti da se efikasnost AI i HPC GPU-ova povećava. Dakle, iako će Nvidia-in B100 baziran na Blackwell-u verovatno nadmašiti potrošnju energije H100, pružiće veću performansu i, stoga, obaviće više posla za svaku jedinicu potrošene energije.
Izvor: Tomshardware
