Najnoviji kompaktni generativni AI superkompjuter NVIDIA-je je zapravo i najjeftiniji
NVIDIA Jetson Orin Nano Super Developer Kit je dizajniran za hobiste i komercijalne AI programere.
Jetson Orin Nano Super Developer Kit
NVIDIA je upravo otkrila Jetson Orin Nano Super Developer Kit, koji je naslednik njenog Jetson Orin Nano kit-a iz 2022.godine. Ovaj novi kompaktni generativni AI superkompjuter može stati u dlan ruke. Uključena u developer kit je i Jetson Orin Nano sistem na modulu od 8GB i referentna nosiva ploča.
U pogledu performansi, Jetson Orin Nano Super može da postigne 68 triliona operacija u sekundi (TOPS), što je 70 odsto povećanje u odnosu na prethodnika. NVIDIA takođe tvrdi da je došlo do poboljšanja u performansama generativne AI obrade za 1,7 puta i 50% povećanja propusnosti na 102GB u sekundi.
Što se tiče frekvencije CPU-a, sada je 1,7GHz, skroman porast u poređenju sa prethodnikom od 1,5GHz.
NVIDIA takođe tvrdi da ovo „donosi poboljšanje“ za sve popularne generativne AI modele. To uključuje velike jezičke modele (LLM), modele sa jezičnim vizijama i vizualne transformator modele.
Nadogradnje softvera za Jetson Orin Nano Super mogu takođe poboljšati njegovog prethodnika, što je dobra vest ako imate originalni Jetson Orin Nano.
Sve što treba da uradite je da preuzmete softver i instalirate nadogradnju. Ipak, NVIDIA nije dala nikakve specifične informacije o tome kako bi performanse starijeg uređaja mogle da se promene.
Jetson Orin Nano Super Developer Kit trenutno je dostupan kod odobrenih NVIDIA distributera. Trenutno košta samo 249 dolara, što je sniženo u odnosu na prethodnika od 499 dolara. To ga čini najpristupačnijim proizvodom ove vrste trenutno.
Izvor: Engadget