Amazon priprema čipove namenjene AI-u
Amazon Web Services (AWS) je upravo započeo svoju re:Invent konferenciju u Las Vegasu sa nizom najava, od kojih većina uključuje najpopularniju tehnologiju godine, AI. Ove vesti, uzete u celini, daju nam kratak pogled na dugoročne ciljeve kompanije za platforme veštačke inteligencije.
AI čipovi za obuku i pokretanje modela
Pre svega, AWS je predstavio svoju najnoviju generaciju AI čipova namenjenih za obuku modela i za pokretanje obučenih modela. Trainium2, koji je očigledno za obuku modela, dizajniran je da pruži do 4x bolje performanse i 2x energetsku efikasnost u poređenju sa svojim prethodnikom. Amazon obećava da će ovi čipovi omogućiti programerima da treniraju modele brzo i po nižoj ceni, zbog smanjenja potrošnje energije. Anthropic, OpenAI konkurent koji podržava Amazon, već je najavio planove za izgradnju modela koristeći Trainium2 čipove.
Graviton4 je, s druge strane, više za opštu upotrebu. Ovi procesori su zasnovani na ARM arhitekturi, ali troše manje energije od Intel ili AMD čipova. Amazon obećava povećanje od 30 procenata opštih performansi kada se koristi obučeni AI model ugrađen u Graviton4 procesor. Ovo bi trebalo da smanji troškove računarstva u oblaku za organizacije koje redovno koriste AI modele i nude blagi porast brzine za obične korisnike koji samo žele da naprave neke lažne fotografije Harija Potera na rejvu ili bilo šta drugo.
Sve u svemu, Graviton4 bi trebalo da omogući korisnicima AWS-a da „obrade veće količine podataka, skaliraju svoje radno opterećenje, poboljšaju vreme do rezultata i smanje ukupne troškove vlasništva“. Dostupan je danas u pregledu, a šire izdanje je planirano za naredne mesece.
Obično, kada kompanija najavi nove interne čipove, to predstavlja probleme trenutnim nezavisnim dobavljačima kao što je NVIDIA. Kompanija je veliki igrač u poslovnom prostoru veštačke inteligencije, zahvaljujući kompanijama koje koriste njene GPU-ove za obuku i CPU Grace baziran na ARM-u. Umesto da izbegava partnerstvo u korist vlasničkih čipova, Amazon dodatno učvršćuje odnos nudeći poslovnim korisnicima pristup u oblaku najnovijim NVIDIA H200 AI GPU-ovima. Takođe će upravljati sa više od 16.000 Nvidia GH200 Grace Hopper superčipova posebno za NVIDIA-in istraživački i razvojni tim. Ovo je sličan pristup njegovom glavnom AI rivalu, Microsoftu, koji je takođe najavio poboljšano partnerstvo sa NVIDIA-om u isto vreme kada je otkrio svoj vlasnički AI čip, Maya 100.
Amazon je takođe najavio novi AI chatbot koji je fokusiran na poslovanje pod nazivom Q, ime koje je verovatno inspirisano polubogom Zvezdanih staza, a ne prodavačem zavere u blizini Trampa. Opisan je kao „nova vrsta generativnog ličnog asistenta sa AI“ i posebno je dizajniran da pomogne u pojednostavljivanju radnih projekata i zadataka korisničke službe. Može se prilagoditi svakom poslu i nudi relevantne odgovore na često postavljana pitanja. Amazon Q takođe može samostalno da generiše sadržaj i da preduzima radnje na osnovu zahteva kupaca. Čak će prilagoditi interakcije na osnovu uloge korisnika u kompaniji.
Postojaće u komunikacijskim aplikacijama kao što je Slack i u aplikacijama za uređivanje teksta koje obično koriste programeri softvera. U tom cilju, Q zapravo može da promeni izvorni kod i može da se poveže sa više od 40 sistema preduzeća, uključujući Microsoft 365, Dropbox, Salesforce i Zendesk, između ostalih. Amazon Q je trenutno dostupan u pregledu, a šire izdanje dolazi uskoro. Koštaće od 20 do 30 dolara po korisniku svakog meseca, u zavisnosti od dostupnih funkcija.
Dakle, šta smo naučili ovde? Amazon se mnogo kladi na AI, kao i svi drugi. Tačnije, bori se sa starim rivalom u oblaku, Microsoftom, da bude kompanija za AI zasnovanu na preduzećima. Takođe koristi veštačku inteligenciju da nastavi svoju dominaciju u računarskom prostoru u oblaku, nadajući se da će minimizirati svako povećanje tržišnog udela za Microsoft i druge igrače kao što su Google i Alibaba.
Izvor: Engadget
