Geoffrey Hinton napušta Google zbog uticaja veštačke inteligencije

Geoffrey Hinton zabrinut је da bi veštačka inteligencija mogla da smanji broj radnih mesta i da širi razne dezinformacije.

Šta donosi razvoj AI tehnologije?

Jedan od pionira koji se bavio razvojem veštačke inteligencije napravio je veliki potez. Geoffrey Hinton, poznat kao „kum veštačke inteligencije“, podneo je ostavku na mesto potpredsednika i inženjera saradnika Google-a kako bi upozorio na rizike povezane sa AI tehnologijom. Geoffrey je zabrinut da Google odustaje od svog prethodnog ograničenja u pogledu javnih izdanja veštačke inteligencije u pokušaju da se takmiči sa ChatGPT-om, Bing-om i sličnim modelima, otvarajući vrata brojnim etičkim problemima.

Hinton je zabrinut da bi generativna AI mogla dovesti do talasa dezinformacija. Možda „više nećete moći da znate šta je istina“, rekao je Hinton. On je takođe zabrinut da bi veštačka inteligencija mogla potpuno da zameni neke poslove. Hinton je zabrinut i zbog tendencije AI modela da se čudno ponašaju koristeći podatke o obuci. Iako su neka od ovih pitanja teoretska, Hinton se plaši eskalacije koja neće biti kontrolisana propisima ili razvojem efikasnih kontrola.

Hinton navodi da je njegov stav počeo da se menja prošle godine, kada su Google, OpenAI i drugi počeli da stvaraju AI sisteme za koje veruje da su ponekad superiorniji od ljudske inteligencije. AI se brzo razvio u samo poslednjih pet godina. „Zastrašujuće“ je šta bi se moglo dogoditi u narednih pet, rekao je Hinton.

Toksični sadržaj i kršenje autorskih prava

Google-ov glavni naučnik Jeff Dean rekao je da je kompanija i dalje posvećena „odgovornom pristupu“ i da je na oprezu zbog „nastalih rizika“. Google je nedavno objavio verziju svog Bard chatbot-a u martu nakon višemesečnih glasina da je kompanija zabrinuta zbog konkurentskih pretnji. Pre toga kompanija je odbila da javno objavi AI modele kao što je Imagen zbog potencijala za stvaranje toksičnog sadržaja i kršenja autorskih prava.

Hinton je svoju karijeru posvetio proučavanju neuronskih mreža koje su često ključne za AI. Međutim, najpoznatiji je po razvoju sistema za prepoznavanje objekata 2012.godine. Njegova revolucionarna neuronska mreža mogla bi da koristi slike za obuku kako bi pomogla u prepoznavanju uobičajenih objekata. Google je kupio Hinton-ov DNNresearch startup 2013. godine. Osnovni koncept njegovog pronalaska pomogao je da se podstakne nalet razvoja koji je doveo do današnje generativne tehnologije.

Hinton nije sam. Brojni uticajni akademici i tehnološki lideri, uključujući Elon-a Musk-a i Steve Wozniak-a, nedavno su potpisali otvoreno pismo pozivajući na šestomesečnu pauzu u razvoju veštačke inteligencije radi rešavanja etičkih i bezbednosnih problema. Međutim, kao jedna od najistaknutijih ličnosti u industriji, Hinton-ova reč ima značajnu težinu.

Izvor: Engadget