Bing Chat je toliko zahtevan da je Microsoft morao da pozajmi servere od Oracle-a
Bing Chat je znatno porastao u pogledu svoje popularnosti od svog nastanka.
Microsoft koristi Oracle Cloud Infrastructure AI Infrastrukturu, sa Microsoft Azure AI infrastrukturom za Bing Chat
Trenutna potražnja za Microsoftovom generativnom veštačkom inteligencijom (AI) uslugom toliko je visoka da je za kompaniju iz Redmonda postalo teško da svime upravlja samostalno i zato traži pomoć od Oracle-a. Veliki igrač u oblaku, Oracle, objavio je višegodišnji sporazum sa tehnološkim gigantom Microsoftom kako bi podržao rast AI usluga, posebno AI četbota Bing. Microsoft koristi Oracle Cloud Infrastructure (OCI) AI infrastrukturu, zajedno sa Microsoft Azure AI infrastrukturom, kako bi zaključivao AI modele koji su optimizovani za dnevno napajanje konverzacionih pretraga na Microsoft Bingu.
Korišćenjem Oracle Interconnect za Microsoft Azure, Microsoft može da koristi upravljane usluge poput Azure Kubernetes Service (AKS) kako bi orkestrirao OCI Compute u velikoj meri i podržao rastuću potražnju za Bing konverzacionim pretragama, izjavila je kompanija. Pošto Microsoft treba više računarskih resursa da bi ispratio rastuću potražnju, mora da uključi mnogo više GPU-ova. Oracle ima na raspolaganju desetine hiljada Nvidia A100s i H100 GPU-ova koje je pristao da iznajmi Microsoftu.
“Generativna AI je ogroman tehnološki korak, a Oracle omogućava Microsoftu i hiljadama drugih preduzeća da razvijaju i pokreću nove proizvode sa našim OCI AI mogućnostima”, izjavio je Karan Batta, stariji potpredsednik za Oracle Cloud Infrastructure. “Proširujući našu saradnju sa Microsoftom, možemo pomoći da se nova iskustva dovedu do više ljudi širom sveta”, dodao je Batta.
Bing konverzaciona pretraga zahteva moćne skupove računarske infrastrukture koji podržavaju ocenu i analizu rezultata pretrage koju sprovodi Bing-ov model zaključivanja. “Naša saradnja sa Oracle-om i korišćenje Oracle Cloud Infrastructure zajedno sa našom Microsoft Azure AI infrastrukturom, proširiće pristup korisnicima i poboljšati brzinu mnogih naših rezultata pretrage”, izjavila je Divya Kumar, globalni direktor marketinga za Pretragu i AI u Microsoftu.
Modeli zaključivanja zahtevaju hiljade računarskih i skladišnih instanci i desetine hiljada GPU-ova koji mogu operisati paralelno kao jedan superkompjuter preko mreže od više terabita.
Izvor: Techlusive
