NVIDIA predstavlja novu generaciju AI superkompjuterskih čipova
Čipovi su navodno efikasniji, ali su takođe usmereni više ka veštačkoj inteligenciji i velikim jezičkim modelima.
HGX H200 GPU
NVIDIA je lansirala svoju sledeću generaciju AI superkompjuterskih čipova koji će verovatno odigrati veliku ulogu u budućoj tehnologiji u dubokom učenju i velikim jezičkim modelima poput OpenAI-evog GPT-4. Tehnologija predstavlja značajan skok u odnosu na prethodnu generaciju. Nova tehnologija je namenjena za upotrebu u data centrima i superkompjuterima koji koji će obavljati zadatke poput predviđanja vremena i klime, otkrivanja lekova i kvantnog računarstva.
Ključni proizvod je HGX H200 GPU baziran na NVIDIA-inoj arhitekturi “Hopper“. To je zapravo zamena za popularni H100 GPU. To je prvi čip kompanije koji koristi HBM3e memoriju koja je brža i ima veći kapacitet, čime je bolje prilagođen za velike jezičke modele. “Sa HBM3e, NVIDIA H200 pruža 141GB memorije sa 4.8 terabajta u sekundi, skoro dvostruko veći kapacitet i 2.4 puta veću propusnost podataka u poređenju sa svojim prethodnikom, navodi kompanija.
Što se tiče benefita za AI, NVIDIA navodi da HGX H200 udvostručuje brzinu inferencije na Llama 2 u poređenju sa H100. Llama 2 je veliki jezički model (LLM) sa 70 milijardi parametara. HGX H200 GPU će biti dostupan u konfiguracijama od 4 i 8 puta koje su kompatibilne kako sa softverom, tako i sa hardverom u H100 sistemima. Funkcionisaće u svakom tipu data centra i biće implementiran od strane Amazon Web Services, Google Cloud, Microsoft Azure i Oracle Cloud infrastrukture. Očekuje se da će čip stići u drugom kvartalu 2024. godine.
GH200 Grace Hopper
Drugi ključni proizvod NVIDIA-e je GH200 Grace Hopper “superčip”. Čip integriše dva ključna elementa: GPU HGX H200 i CPU baziran na Arm arhitekturi, nazvan NVIDIA Grace. Ovi čipovi su povezani NVLink-C2C interfejsom kompanije NVIDIA. Ova kombinacija čini jedinstven GH200 Grace Hopper čip.
Čip je namijenjen superkompjuterima kako bi “naučnici i istraživači mogli da se bave najizazovnijim problemima ubrzavajući kompleksne AI i HPC aplikacije koje obrađuju terabajte podataka”, navodi NVIDIA.
Najveći superkompjuter nosi naziv JUPITER
GH200 čip će biti implementiran u više od 40 superkompjutera namenjenih veštačkoj inteligenciji (AI). Ovi superkompjuteri će biti raspoređeni širom globalnih istraživačkih centara. Kompanija navodi neke od partnera koji će koristiti ove superkompjutere, među njima su Dell, Eviden, Hewlett Packard Enterprise, Lenovo, QCT i Supermicro.
Među njima se nalaze HPE-ovi Cray EX2500 superkompjuteri koji će koristiti četiri GH200. Ovi superkompjuteri imaće mogućnost proširivanja kapaciteta kroz povećanje broja GH200 čipova.
Najveći Grace Hopper superkompjuter biće JUPITER, smešten u postrojenju Jülich u Nemačkoj. On će postati “najmoćniji AI sistem na svetu” kada bude instaliran 2024. godine. Sistem će imati “modul pojačanja” koji se sastoji od približno 24,000 NVIDIA GH200 Superchip-ova povezanih sa NVIDIA Quantum-2 InfiniBand mrežnom platformom.
Predviđanje klime i vremena
NVIDIA tvrdi da će JUPITER pomoći u ostvarenju naučnih dostignuća u nekoliko oblasti, uključujući predviđanje klime i vremena.
JUPITER će omogućiti generisanje visokorezolucijskih simulacija klime i vremena uz interaktivnu vizualizaciju. Sistem će takođe biti upotrebljen za otkrivanje lekova za kvantno računarstvo i industrijsko inženjerstvo. Mnoge od ovih oblasti koriste prilagođena softverska rešenja NVIDIA-e. Ta rešenja olakšavaju razvoj, ali takođe čine grupe superkompjutera zavisnim od hardvera NVIDIA-e.
Ove nove tehnologije će biti ključne za NVIDIA-u. Kompanija sada većinu svojih prihoda ostvaruje od segmenata veštačke inteligencije i data centara. Prošlog kvartala kompanija je zabeležila rekordnih 10.32 milijarde dolara prihoda samo od tog područja. To je porast od 171 odsto u odnosu na prethodnu godinu.
Nema sumnje da će novi GPU i superčip pomoći u nastavku tog rasta. Prošle nedelje, NVIDIA je oborila svoj sopstveni rekord u benchmark testu za AI obuku koristeći stariju tehnologiju H100. Nema sumnje da će joj nova tehnologija pomoći da se proširi u sektoru u kojem već dominira.
Izvor: Engadget
