Samsungova AI tehnologija koristi manje energije i manje tranzistora

Samsung je najavio novu NPU tehnologiju koja će omogućiti da AI na uređaju bude brži, energetski efikasniji i zauzima manje prostora na čipu. Zahvaljujući Quantization Interval učenju mogu da se kreiraju 4-bitne neuronske mreže koje zadržavaju tačnost 32-bitne mreže.

Korišćenjem manje bitova značajno se smanjuje broj izračunavanja i opterećenje hardvera koji ih izvodi, tvrde iz Samsung-a. Na taj način istovetan hardver može da postigne iste rezultate osam puta brže, dok smanjuje broj tranzistora čak 40 do 120 puta.

Ovo će učiniti da NPU-ovi budu brži i troše manje energije, ali i da mogu još brže da obavljaju poznate zadatke kao što su prepoznavanje objekata i biometrijska autentifikacija (otisak prsta, iris i prepoznavanje lica). Naravno, na samom uređaju mogu da se izvrše i složeniji zadaci.

AI na uređaju je dobar za privatnosti, naravno, ali ima i druge prednosti u odnosu na AI koji je zasnovan na cloud-u. Na primer, povezivanje sa serverom u cloud-u znači da modem telefona koristi napajanje. Ova veza preko Interneta takođe dodaje latenciju.

Pročitajte i:  AI kao regruter na intervjuima za posao

Zahvaljujući brzom radu sa niskim kašnjenjem NPP-ova zasnovanih na QIL-u, Samsung predviđa njihovu upotrebu u na primer autonomnim vozilima (gde je ključno tačno prepoznavanje objekata) i virtuelnoj stvarnosti takođe (možda i nešto slično Nvidia-jinom DLSS-u, koji koristi deep learning za poboljšanje kvaliteta slike uz male troškove GPU-a).

Samsung će ovu tehnologiju implementirati u mobilnim čipsetovima „u bliskoj budućnosti“, kao i u druge svrhe (na primer pametnim senzorima).

Izvor: GSMArena

Facebook komentari:

Vertiv

IT Edukacija
Tagovi: , , ,