Novi NVIDIA AI četbot radi lokalno na računaru

NVIDIA je upravo objavila besplatnu demo verziju chat bota koji radi lokalno na vašem računaru. Ovo je prilično uredno, jer omogućava chatbotu pristup vašim datotekama i dokumentima.

Brzo povezivanje lokalnih podataka

Kompanija kaže da omogućava korisnicima da brzo, lako povežu lokalne datoteke na računaru kao skup podataka sa velikim jezičkim modelom otvorenog koda. Ovo zvuči kao veliki korak ka nečemu što liči na stvarnog digitalnog asistenta koji radi u kontekstualnom okviru vaših ličnih podataka. Kod većine chatbotova, podaci se šalju u cloud, ali ćaskanje sa RTX-om omogućava korisnicima da obrađuju osetljive podatke na lokalnom računaru bez potrebe da ih dele sa trećom stranom ili imaju internet vezu.

Postoje neka ograničenja. Ovo je demo proizvod tako da biste trebali očekivati dosta grešaka, mada bi NVIDIA trebalo da počne da ih uništava kada korisnici počnu da izdaju izveštaje o greškama i slično. Ovde takođe postoje neka stroga hardverska ograničenja. Ćaskanje sa RTX-om radi samo na Windows računarima sa NVIDIA GeForce RTX 30 serije GPU-a ili novijim i najmanje 8GB VRAM-a. NVIDIA je u poslednje vreme zaista pokazala svoju AI snagu, pošto je kompanija upravo lansirala svoju sledeću generaciju superkompjuterskih čipova sa veštačkom inteligencijom.

Izvor: Engadget