Podsetnik: AI chatbotovi i dalje izmišljaju i lažu

Ovo je vaš periodični podsetnik da AI pokretani chatboti i dalje izmišljaju stvari i lažu sa svom sigurnošću GPS sistema koji vam govori da je najkraći put kući vožnja kroz jezero.

ChatGPT još uvek nije 100% pouzdan

Moj podsetnik dolazi zahvaljujući Nieman Lab-u, koji je sproveo eksperiment da vidi da li će ChatGPT pružiti tačne linkove do članaka iz novinskih publikacija za koje plaća milione dolara. Ispostavilo se da ChatGPT to ne čini. Umesto toga, samouvereno izmišlja cele URL-ove, fenomen koji AI industrija naziva “halucinacijom,” što se čini prikladnijim za stvarnu osobu koja je zanesena svojim glupostima.

Andrew Deck iz Nieman Lab-a je zatražio od ChatGPT-a da pruži linkove do visokoprofilnih, ekskluzivnih priča objavljenih od strane 10 izdavača sa kojima OpenAI ima ugovore vredne milione dolara. Ovi izdavači uključuju Associated Press, The Wall Street Journal, Financial Times, The Times (UK), Le Monde, El País, The Atlantic, The Verge, Vox i Politico. Kao odgovor, ChatGPT je vratio izmišljene URL-ove koji su vodili do stranica sa greškom 404 jer jednostavno nisu postojali. Drugim rečima, sistem je radio tačno kako je dizajniran: predviđajući najverovatniju verziju URL-a priče umesto da zapravo citira tačan URL. Nieman Lab je sproveo sličan eksperiment sa jednom publikacijom — Business Insider — ranije ovog meseca i dobio isti rezultat.

Portparol OpenAI-a je rekao Nieman Lab-u da kompanija još uvek razvija “iskustvo koje kombinuje konverzacione sposobnosti sa najnovijim novinskim sadržajem, osiguravajući pravilno atribuiranje i povezivanje sa izvorima materijala — poboljšano iskustvo koje je još uvek u razvoju i nije dostupno u ChatGPT-u.” Međutim, odbili su da objasne lažne URL-ove.

Ne znamo kada će ovo novo iskustvo biti dostupno niti koliko će biti pouzdano. Uprkos tome, novinske publikacije nastavljaju da hrane godine novinarstva u OpenAI-ov proždrljivi mehanizam u zamenu za hladan, tvrdi novac jer je industrija novinarstva konstantno bila loša u pronalaženju načina da zarađuje novac bez prodaje svoje duše tehnološkim kompanijama. U međuvremenu, AI kompanije koriste sadržaj objavljen od strane bilo koga ko nije potpisao ove Faustiške ugovore i koriste ga za obuku svojih modela. Mustafa Suleyman, Microsoftov AI direktor, nedavno je nazvao sve objavljeno na internetu “besplatnim softverom” koji je fer igra za obuku AI modela.

Postoji lekcija ovde: Ako ChatGPT izmišlja URL-ove, takođe izmišlja i činjenice. Tako generativna AI funkcioniše — u svojoj srži, tehnologija je naprednija verzija automatskog dovršavanja, jednostavno pogađajući sledeću verovatnu reč u nizu. Ne “razume” šta govorite, iako se ponaša kao da razume.

Izvor: Engadget