OpenAI i tužbe zbog izmišljenih rezultata
Evropska grupa za zastupanje zaštite podataka NOYB podnela je žalbu protiv OpenAI zbog nemogućnosti kompanije da ispravi netačne informacije koje generiše ChatGPT. Grupa navodi da neuspeh OpenAI-a da obezbedi tačnost ličnih podataka koje obrađuje usluga krši Opštu uredbu o zaštiti podataka (GDPR) u Evropskoj uniji.
„Izmišljanje lažnih informacija je samo po sebi prilično problematično. Ali kada su u pitanju lažne informacije o pojedincima, može doći do ozbiljnih posledica“, rekao je Martje de Graf, advokat za zaštitu podataka u NOYB-u.
„Jasno je da kompanije trenutno ne mogu da nateraju čet-botove kao što je ChatGPT da budu u skladu sa zakonom EU kada obrađuju podatke o pojedincima. Ako sistem ne može da proizvede tačne i transparentne rezultate, ne može se koristiti za generisanje podataka o pojedincima. Tehnologija mora da prati zakonske zahteve, a ne obrnuto.”
GDPR zahteva da lični podaci budu tačni, a pojedinci imaju pravo na ispravku ako su podaci netačni, kao i pravo na pristup informacijama o podacima koji se obrađuju i njihovim izvorima. Međutim, OpenAI je otvoreno priznao da ne može da ispravi netačne informacije koje generiše ChatGPT ili da otkrije izvore podataka koji se koriste za obuku modela.
„Činjenična tačnost u velikim jezičkim modelima ostaje oblast aktivnog istraživanja“, tvrdi OpenAI.
Grupa za zastupanje ističe izveštaj Njujork Tajmsa koji je otkrio da čet-botovi poput ChatGPT „izmišljaju informacije najmanje 3 procenta do čak 27 procenata“. U žalbi protiv OpenAI, NOYB navodi primer gde je ChatGPT u više navrata naveo netačan datum rođenja podnosioca žalbe, javne ličnosti, uprkos zahtevima za ispravku.
„Uprkos činjenici da je datum rođenja podnosioca žalbe koji je naveo ChatGPT netačan, OpenAI je odbio njegov zahtev da ispravi ili izbriše podatke, uz obrazloženje da nije bilo moguće ispraviti podatke“, naveo je NOYB.
OpenAI je tvrdio da može da filtrira ili blokira podatke na određenim upitima, kao što je ime podnosioca žalbe, ali ne bez sprečavanja ChatGPT-a da filtrira sve informacije o pojedincu. Kompanija takođe nije uspela da adekvatno odgovori na zahtev podnosioca žalbe za pristup, koji GDPR zahteva od kompanija da ispune.
Izvor: artificialintelligence-news.com
