Nvidia ostvarila veliki napredak u obuci najnaprednijih AI sistema
Nvidia je ostvarila značajan napredak u obuci velikih oblika veštačke inteligencije. Izveštaji ukazuju na dramatično smanjenje broja čipova potrebnih za treniranje naprednih AI modela.
Nvidia Blackwell čipovi
Organizacija MLCommons objavljuje standardizovane rezultate performansi AI sistema. Organizacija je sada predstavila je benchmark testove. Oni pokazuju da su novi Nvidia Blackwell čipovi više nego dvostruko brži po komadu u odnosu na prethodnu generaciju Hopper čipova.
U najbržem testu, 2.496 Blackwell čipova završilo je obuku velikog modela (Llama 3.1 sa 405 milijardi parametara) za samo 27 minuta. Poređenja radi, starijim Hopper čipovima je za to bilo potrebno tri puta više resursa. Kompanija CoreWeave sarađivala s Nvidiom. Istakla je da se u industriji sve više koristi modularni pristup – umesto ogromnih klastera od 100.000 čipova, grade se manji podsistemi za specifične AI zadatke.
Ovaj napredak dolazi u trenutku kada se globalna trka u razvoju AI tehnologija zahuktava. Konkurencija u segmentu AI obuke postaje ključna za dominaciju u industriji.
Izvor: Reuters