NorthPole osporava Murov zakon

Istraživači kompanije IBM razvili su AI čip zasnovan na neuronskim mrežama, znatno brži i efikasniji od konvencionalnih čipova. Koncept NorthPole je u avgustu prikazan na Stanford-u, u okviru simpozijuma čipova visokih performansi (Hot Chips Symposium), a zatim 19. oktobra opisan u časopisu Science. Da vidimo šta je to…

NorthPole koncept je razvijen u laboratoriji IBM Research, a na čelu istraživačkog tima je Dharmendra Modha. Rezultat je skoro dve decenije rada naučnika i 14-godišnjeg partnerstva IBM-ove laboratorije s Ministarstvom odbrane Sjedinjenih Država (Agencija za napredna istraživanja u oblasti odbrane – DARPA), Kancelarije podsekretara odbrane za istraživanje i inženjering i Laboratorije za istraživanje vazduhoplovstva.

NorthPole je neuromorfni procesor, sa fizičkom memorijom ugrađenom u svako jezgro, pa ne troši energiju ili dodatno vreme da bi se preuzeli podaci iz spoljnog izvora

IBM i neuroistraživanja

Još 2004. godine Dharmendra Modha se opredelio da svoj radni vek posveti računarstvu koje je inspirisano čovekovim mozgom. Sa svojim timom došao je do brojnih značajnih otkrića u toj oblasti i 2009. godine osvojio prestižnu ACM-ovu nagradu Gordon Bell, koja se svake godine dodeljuje kao priznanje za izuzetna dostignuća u razvoju računarstva visokih performansi.

Dalja istraživanja dovela su do novih priznanja, a Mhoda je podržan od IBM-a. Tako je u istraživačkoj laboratoriji IBM-a 2014. godine realizovan prvi čip (procesor) inspirisan mozgom, pod nazivom ThrueNorth. On je osvojio inauguralnu nagradu Misha Mahowald za izuzetna dostignuća u oblasti neuromorfnog inženjerstva, a sam računar je danas u Muzeju istorije kompjutera.

Čovekov mozak je energetski znatno efikasniji od savremenih računara, dobrim delom zato što skladišti podatke u svakom neuronu

NorthPole je produžetak TrueNorth-a. Kako kaže Mhoda, prva ideja za NorthPole nastala je 2015. godine, a glavna motivacija je bila da se smanje kapitalni troškovi proizvodnje i korišćenja ovakvih računara. Tokom narednih nekoliko godina tim je pomerao granice inovacija duž svih aspekata računarstva, memorije, komunikacije, kontrole, ulazno-izlaznih komponenata… Projekat je naišao na mnoge tehničke,
ekonomske i političke prepreke (uključujući i pandemiju), ali je North­Pole sada finalizaovan.

Struktura i karakteristike

Kao i kod drugih struktura s neuronskim mrežama, NorthPole je inspirisan funkcijom čovekovog mozga. S obzirom na to da je zasnovan na neuronskim mrežama, namenjen je rešavanju niza problema koji nisu rešivi klasičnim sredstvima računarske tehnike. Po uzoru na čovekov mozak, sastoji se od veštačkih neurona – procesora (čvorova, nodova), povezanih u jedinstvenu celinu. Svaki neuron ima lokalnu memoriju u kojoj pamti podatke koje obrađuje.

NorthPole je zasnovan na 12-nm proizvodnom procesu, koji je po današnjem standardu poluprovodničke tehnologije prilično zastareo, s obzirom na to da se kod komercijalnih procesora stiglo do 4 nm i 7 nm – primer su NVIDIA Grace Hopper Superchips za eru ubrzanog računarstva i generativne veštačke inteligencije, kao i Cerebras Wafer Scale Engine 2 – WSE 2 za kompjuterske sisteme dubokog učenja. Sadrži 22 milijarde tranzistora na površini od 800 kvadratnih milimetara. Ima 256 jezgara, sa ukupno 2.048 (odnosno 4.096 i 8.192) operacija po jezgru po ciklusu sa 8-bitnom arhitekturom (odnosno 4-bitnom i 2-bitnom).

Koncept bi, s obzirom na prednosti koje donosi mogućnost integrisanja procesora i memorije,
mogao suštinski da promeni naše razmišljanje o računarskim arhitekturama

Ukupna količina ugrađene memorije na čipu je 224 MB (192 MB za niz jezgara i 32 MB za ulaz-izlaz). Za povezivanje je potrebno 4.096 žica koje prelaze svako jezgro i horizontalno i vertikalno (ima 2.048 niti). Radi povećanja funkcionalnosti, tim je razvio i metodu particionisanja prevelikih neuronskih mreža u podmreže koje se uklapaju u memoriju jednog čipa i povezuju čipove zajedno. U trenutku pisanja ovog teksta, procesor je potpuno operativan.

Neuromorfni procesor

Računarstvo je od svog početka bilo usmereno na procesor sa odvojenom centralnom memorijom. Ovo razdvajanje, poznato kao Fon Nojmanovo usko grlo, dovodi do povećanog saobraćaja podataka, što opet dovodi do značajne potrošnje energije, ograničava propusni opseg, a time i smanjuje broj operacija u jedinici vremena koje se obavljaju na čipu. Većina procesora, uključujući i najnovije proizvode kompanija NVIDIA i Cerebras, rade na tom principu, što neminovno unosi kašnjenje između trenutka kada procesor pošalje zahtev za podacima i trenutka kada ih primi. Za te operacije troši se dodatna energija, osim uobičajene potrošnje procesora i drugih komponenata.

Čovekov mozak je energetski znatno efikasniji od savremenih računara, dobrim delom zato što skladišti podatke u svakom neuronu. Upravo po uzoru na tu biološku karakteristiku mozga, kod procesora NorthPole ugrađena je mala količina memorije u svako od 256 jezgara, koja su povezana na način sličan kako su u čovekovom mozgu neuroni povezani belom masom (služi za prenošenje nervnih impulsa između neurona), što eliminiše Fon Nojmanovo usko grlo.

To znači da je NorthPole neuromorfni procesor (ima fizičku memoriju ugrađenu u čip). Svako jezgro ima svoj lokalni keš, pa ne troši energiju ili vreme da bi se preuzeli podaci iz spoljnog izvora. Ovo je važno jer kapitalni i operativni troškovi AI postaju neodrživi, a u mnogim aplikacijama vreme odziva AI je presporo. Rezultat je moćan procesor koji malo troši. Toplotno opterećenje je takođe malo, pa su mu potrebni samo ventilatori i osnovni rashladni elementi da bi se ohladio.

Potencijalna primena NorthPole-a

NorthPole je pogodan za klasifikaciju, detekciju, segmentaciju, video-klasifikaciju i prepoznavanje govora. Takođe bi mogao da ostvari bolje rezultate u odnosu na konvencionalne čipove na zadacima kao što je prepoznavanje slika. Njegova slojevita arhitektura neuronskih mreža funkcioniše tako što donji sloj prima podatke (npr. piksele na slici), a sledeći slojevi počinju da prepoznaju elemente koji postaju složeniji kako se informacije prenose s jednog sloja na drugi. Najviši sloj daje krajnji rezultat, na primer procenu da li slika sadrži određeni objekat ili ne.

NorthPole inovira sve dimenzije računarstva, memorije, komunikacije, kontrole i izlazno-ulazne komponente. On nema ni približno dovoljno memorije da pokrene nešto poput ChatGPT-ja, što zahteva ogromnu količinu podataka, a takođe i već obučenu neuronsku mrežu. Ali već postoji veliki broj aplikacija u kojima se neuronske mreže obučavaju na AI sistemima velikih centara podataka, a zatim se postavljaju na klijentske uređaje kao što su automobili i dronovi.

Tokom godina, počevši od 2015, tim je pomerao granice inovacija duž svih aspekata računarstva, memorije, komunikacije, kontrole, ulazno-izlaznih komponenata

Sve to će se daljim razvojem svakako unaprediti. Naučnici tvrde da bi NorthPole bio, ako bi se napravio sa danas najmodernijim tehnologijama proizvodnje, 25 puta efikasniji od trenutno najmoćnijih centralnih i grafičkih procesorskih jedinica.

To znači da bi ovaj koncept, s obzirom na prednosti koje donosi mogućnost integrisanja procesora i memorije, mogao suštinski da promeni naše razmišljanje o računarskim arhitekturama.

Autor: Nadežda Veljković