Microsoft Copilot AI će uskoro moći da se pokreće lokalno

Intel je objavio da je Microsoft-ov AI servis Copilot podešen da se pokreće lokalno, na računarima. Ipak, to se još ne dešava, jer će biti potrebni AI PC-jevi nove generacije, sa ugrađenim Neural Proccessing jedinicama (NPU), snage veće od 40 TOPS-a (trilion operacija po sekundi). Ta snaga je izvan sposobnosti bilo kojeg današnjeg procesora namenjenog krajnjim kupcima.

Takvi AI računari biće sposobni da pokreću lokalno više različitih elemenata Copilot-a. Trenutno, Copilot pokreće skoro sve u cloud-u, čak i kada su u pitanju najjednostavniji upiti. Takva procedura kreira znatnu količinu laga, što je prihvatljivo u slučaju kompleksnih upita, ali se manje toleriše u jednostavnijim slučajevima. Lokalna obrada upita bi značajno smanjila lag i istovremeno povećala performanse i privatnost.

I Microsoft je ranije pominjao da bi sledeća generacija AI PC-a, morala da ima 40 TOPS-a, kao i bar 16 GB RAM-a. Trenutna situacija je još uvek dosta daleko od toga. Trenutno najbrži procesor sa NPU jedinicom je Apple M3, koji donosi 18 TOPS-a. AMD Ryzen 8040 CPU ima brzinu od 16 TOPS-a, dok AMD Ryzen 7040 i Meteor Lake procesori dostižu 10 TOPS-a.

Prvi procesor koji će imati dovoljno snage za lokalno pokretanje Copilot-a, mogao bi da bude Qualcomm-ov Snapdragon X Elite, koji će doneti 45 TOPS-a brzine AI izračunavanja. Intel-ovi Lunar Lake čipovi, najavljeni za sledeću godinu, imaće oko 30 TOPS-a. Ova kompanija je predstavila i 300 novih AI funkcija, optimizovanih za njihovu OpenVino platformu.

Izvor: Engadget