Igre AI prestola

Proteklog meseca su se, kao na pokretnoj traci, smenjivale vesti o borbi za vlast u kompaniji OpenAI koja je potresla svet ChatGPT softverom. Direktor je smenjen, pa je prešao u Microsoft, pa se vratio, pa je razrešen upravni odbor, pa… Da vidimo šta se tačno dešavalo i pokušamo da shvatimo o čemu se zapravo radi.

Sam Altman, Greg Brockman, Reid Hoffman, Jessica Livingston, Peter Thiel i Elon Musk, zajedno sa firmama Amazon (AWS), Infosys i YC Research osnivaju OpenAI kao neprofitnu kompaniju. Ilya Sutskever se, pošto ga je Elon Musk dugo ubeđivao, priključuje se projektu.

Elon Musk i(li) profit

21. februara 2018. Elon Musk napušta OpenAI, zvanično da bi izbegao konflikt interesa sa svojim ostalim kompanijama. Elon je jedan od vodećih zagovornika „odgovornog ponašanja“ i predostrožnosti u primeni veštačke inteligencije. Neke njegove izjave govore o njegovom oslanjanju na Sutskever-a u tom pogledu. Elon je često citiran kako kaže da je OpenAI osnovan da bude kao Open Source, da bi bio dostupan celom svetu zbog toga što smatra da profitne kompanije ne mogu da regulišu same sebe, već su prisiljene na neprestano takmičenje sa ostalima, obavezane da rade za profit, a bezbednost prestaje da bude cilj.

11. marta 2019. OpenAI prelazi iz neprofitne, u kompaniju „ograničenog profita“.

Microsoft objavljuje da će Sam Altman i Greg Brockman voditi njihovo novo odeljenje za istraživanje, uz otvoren poziv svim ostalim zaposlenima u OpenAI. Ovo dovodi do velikog skoka deonica Microsoft-a, jer praktično preuzimaju sve što vredi od OpenAI-ja

30. novembra 2022. OpenAI objavljuje ChatGPT, zasnovan na GPT modelima razvijenim prethodnih godina, kojim je uzdrmao svet na razne načine. U pitanju je „samo“ veliki jezički model obučen da nastavlja tekst posle obrade ogromnog broja dokumenata kojima su imali pristup i, zapravo, ne ume da „razmišlja“, pa pravi i najosnovnije matematičke greške. Bez obzira na to, ispostavlja se da postiže bolje rezultate nego veliki broj ljudi, a do tih rezultata dolazi daleko brže. Iako „halucinira“ (pravi greške), sposobni ljudi mogu otkriti i ispraviti te greške, tražiti bolji odgovor ili barem dobiti inspiraciju. Zbog toga im više nisu potrebni ljudski pomoćnici kao ranije. Praktično sve kompanije počinju da traže način da profitiraju od ovoga, bilo postižući bolje rezultate sa istim brojem zaposlenih, iste rezultate s manje zaposlenih ili slično. Pojavljuju se dugački spiskovi zanimanja za koja se misli da uskoro neće biti potrebna.

Ljudi ili mašine?

Svet se ubrzano budi i deli na spektar od „paničara“ do onih koji misle da će ljudi naći neka nova zanimanja, kao što smo to radili kroz istoriju. Ovog puta su stvari drugačije. Napredak tehnologije je ranije uglavnom značio smanjivanje potreba za fizičkim poslovima i sve većim usredsređivanjem na inteligenciju: upravljanjem i održavanjem nove opreme, alata, mašina, u medicini, umetnosti, kulturi… Obrazovanje je postajalo neophodno, podrazumevano i sve dugotrajnije. Danas je u nekim strukama potrebno i po tri decenije da se završi obrazovanje.

Napredak računara tokom prošlog veka je umanjio i „fizički deo“ birokratskih poslova. Nova generacija veštačke inteligencije dalje pomera granicu isplativosti ljudi – potrebno je biti još „pametniji“ ili sposobniji na neki drugi način da bi se ta granica prešla. Istovremeno, globalizacija smanjuje broj potrebnih „pametnih“, jer više nije neophodno da oni budu blizu – mogu biti bilo gde na planeti. Koliko god prava umetnost bila
bolja od veštačke, ako tržište („ne­umetnici“) ne ume da vidi značajnu razliku, ono neće podržavati tu
„pravu umetnost“.

Postavlja se pitanje da li je granica upotrebljivosti ljudi pomerena dalje od naše granice prilagodljivosti učenjem (obrazovanjem) i evolucijom. Ako (još uvek) nije, postavlja se pitanje da li se mi brže prilagođavamo ili se granica brže pomera i da li će nas (ili kada) stići i prestići? Šta biste pomislili ako bi obrazovanje trebalo produžiti za još koju deceniju? Da li bi to samo po sebi imalo smisla, ako bi i bilo moguće?

Granice se pomeraju

I veštačka inteligencija ima svoje granice. Do sada je učila od nas, ljudi. Zahteva veliku energiju, opremu i podatke za obuku do kojih retko ko može da dođe. Mnogi smatraju da oni koji imaju podatke (ili mogu da ih priušte) imaju vodeću ulogu. To uvodi novi značaj čuvanja svojih podataka. Oni koji nemaju pristup tolikim podacima pronalaze način da problem reše drugačije ili ih veštački naprave. Tako je AlphaGo još oktobra 2015. pobedio evropskog šampiona u igri Go, za koju se smatra da je daleko teža od šaha, a obučen je igrajući sa samim sobom. Marta sledeće godine pobedio je svetskog šampiona 4:1. Ovo podstiče razvoj veštačke inteligencije koja sama traži svoja rešenja zarad konkretnog cilja. Demonstra­cije često prikazuju kako, recimo, može da nauči da hoda, učeći na ogromnom broju svojih neuspeha.

Više od 700 (od ukupno 770) zaposlenih potpisuje peticiju podrške Altman-u. Među njima su i Greg Brockman, Ilya Sutskever pa čak i nova direktorka Mira Murati

Umetnici se bune kako su „dela“ generatora povremeno neka vrsta mozaika njihovih dela, ukazujući nam na ograničenja veštačke inteligencije. U isto vreme postaje sve teže otkriti plagijate u školama, eseje koji su radovi AI i slično. U zakonskom smislu baca se svetlo na granicu između kopije i sličnih dela koja su (samo) „inspirisana“ drugim. Korisnicima sve to nije važno, dok god je AI brži i jeftiniji. Autorima preti skoro potpun gubitak zarade. Moguće je potražiti i dobiti skoro bilo kakvu sliku ili snimak bilo koga kako radi ili kaže bilo šta. Raširena upotreba ovakve tehnologije omogućava da se falsifikuje bilo kakva vest i/ili izjava, pa i izjave ljudi koji vode države i vojske.

Ogromna većina ljudi nije svesna ničega od navedenog i imaju opravdanje za to: nije moguće da svi znamo sve, pa čak i ljudi koji su u ovoj industriji ne mogu propratiti sve detalje. Neki nisu svesni šta se dešava te nisu spremni za ono što može da ih snađe, što im je važno i/ili da prepoznaju lažne vesti. Neki drugi „znaju taman toliko da budu opasni“ te pogrešno primenjuju veštačku inteligenciju, nesvesni ograničenja i grešaka. Juna 2023. Steven Schwartz, advokat, ulazi u neslavnu istoriju kao čovek koji je bez provere upotrebio slučajeve koje je ChatGPT „izmislio“.

Između 26. septembra i 10. oktobra 2023. OpenAI menja svoju misiju iz: „… izgradnja sigurne veštačke opšte inteligencije (AGI) koja koristi celokupnom čovečanstvu“ u „…izgradnja sigurne i korisne opšte veštačke inteligencije (AGI) koja će imati ogroman pozitivan uticaj na budućnost čovečanstva“. Sve što ne doprinosi tome nije obuhvaćeno.

Altman je otpušten!

U ponedeljak, 6. novembra 2023, tokom OpenAI DevDay konferencije, Sam Altman, izvršni direktor Open­AI-a, kaže da je nekoliko nedelja ranije prisustvovao četvrtom velikom napretku koji „povlači veo zanemarivanja nazad i pomera granicu otkrića napred“. Malo je verovatno da se ova izjava odnosi na ono što je prikazano na konferenciji – jer su za to obično potrebne duže pripreme i planiranje.

Deset dana kasnije, u četvrtak, 16. novembra 2023, Sam Altman dobija poziv od Upravnog odbora OpenAI-a da prisustvuje sastanku sledećeg dana. Iste večeri tada glavna tehnološka direktorka Mira Murati dobija poziv da postane izvršna direktorka.

Koristimo jednu veštačku inteligenciju, koju ne razumemo u potpunosti, da napravi novu veštačku inteligenciju. Ishod je potpuno neizvestan

Sledećeg dana, u petak, 17 novembra 2023, Upravni odbor otpušta Altman-a i ubrzo to objavljuje svetu, dok Mira Murati postaje privremena zamena. Najavljeno je i da Greg Brockman napušta mesto predsednika Upravnog odbora, ali da ostaje u OpenAI. Postupak su objasnili time da su zaključili da Sam Altman nije bio „dosledno iskren“ sa odborom i time ih je ometao u vršenju dužnosti. Vrednost deonica Microsoft-a, koji je investirao oko 13 milijardi dolara u OpenAI, pada. Kasnije istog dana Greg Brockman objavljuje da i on napušta OpenAI. Zaposleni počinju da skupljaju potpise za peticiju kojom podržavaju Altman-a i zahtevaju raspuštanje Upravnog odbora. Tokom narednih nekoliko dana više od 700 od ukupno 770 zaposlenih potpisuje ovu peticiju. Među njima su i Greg Brockman, Ilya Sutskever pa čak i nova direktorka Mira Murati.

Vođa puča

„Internet komentatori“ pokušavaju da nađu vođu puča, kako su neki ovo nazvali, ali ovo ne može postići samo jedan član Upravnog odbora. Kasnije se pronalazi da je više njih imalo svoje razloge:

Ilya Sutskever, možda zbog nebezbednog i neodgovornog razvoja opšte veštačke inteligencije. On se ubrzo izvinjava (20. novembra) zbog svog učešća u puču i time ga priznaje, ali staje na stranu Altman-a.

Adam D’Angelo, izvršni direktor kompanije Quora, gubi investicije u Quora Poe i profit od toga time što nove OpenAI usluge postižu isto ili više. Ovo oslikava i brzinu kojom se stvari menjaju, prebrzo kako za one koji pokušavaju da naprave nešto novo, tako i za one koji to žele da upotrebe.

Helen Toner, koja je iz nekih razloga objavila kako Anthropic, konkurent OpenAI-a, bolje radi svoj posao na polju odgovornosti i bezbednosti. Ovo može biti i konflikt interesa ako je imala finansijske koristi od toga, npr. od Anthropic-a.

Tasha McCauley, iz nejasnih razloga, možda u vezi s (ne)etičkom upotrebom veštačke inteligencije.

Microsoft stupa na scenu

Subota, 18. novembar 2023: Microsoft objavljuje da ostaju uz OpenAI.

Nedelja, 19. novembar 2023: Microsoft objavljuje da će Sam Altman i Greg Brockman voditi njihovo novo odeljenje za istraživanje, uz otvoren poziv svim ostalim zaposlenima u OpenAI. Ovo dovodi do velikog skoka deonica Microsoft-a jer praktično preuzimaju sve što vredi od Open­AI-ja, a čemu već nemaju pristup, zaobilazeći zakonska ograničenja u vezi s kontrolom monopola pri preuzimanju i/ili spajanju kompanija, i to uz minimalne izdatke. Nešto kasnije Microsoft podržava i vraćanje Altman-a u OpenAI, ali će najverovatnije imati ogroman uticaj na dalju budućnost.

Ponedeljak, 20. novembar 2023: Pomenuti spisak zaposlenih sadrži više od 700 od 770 potpisa. Upravni odbor OpenAI-a imenuje novog izvršnog direktora, to je Emmett Shear, jednog od osnivača Twitch-a. On najavljuje istragu.

U utorak, 21. novembra 2023. saznajemo da je Upravni odbor Open­AI-a ponudio spajanje sa Anthropic-om, njihovim glavnim konkurentom. Uveče istog dana Open­AI objavljuje da je postignut okvirni dogovor da se Sam Altman vrati u OpenAI na svoju staru funkciju, s novim članovima Upravnog odbora: Bret Taylor (predsednik) i Larry Summers. Adam D’Angelo ostaje. Sam Altman neće biti član odbora ali to želi, kao i Microsoft, da bi izbegao dalja „iznenađenja“.

Elon Musk objavljuje da je dobio anonimno pismo navodno od bivših zaposlenih u OpenAI koje ukazuje na velike probleme i razdor unutar kompanije. Pišu da je 50 odsto radnika napustilo firmu u periodu između januara 2018. i jula 2020. Autori pisma izražavaju zabrinutost oko pravih namera Altman-a i Brockman-a u vezi s prioritizacijom opšte veštačke inteligencije nasuprot dobrobiti za ljude, navodeći tajne inicijative i projekte. Tvrde da su protivnici bili otpušteni novembra 2019, a ćutanje opravdavaju strahom od posledica kakve sada vidimo i zahtevaju dublju istragu. Navedene su adrese nekih konkretnih primera koji su u međuvremenu nestali. Autentičnost pisma je sumnjiva, ali je razdor između Musk-a i Altman-a ponovo očit.

Ponovo na tronu

22. novembra 2023. i dalje: Sam Altman i Greg Brockman vraćaju se u OpenAI. Od svih „pobunjenika“ nes­tali su oni za koje se misli(lo) da im je briga bezbednost, ostao je samo onaj kome je problem bio profit.

U vodu padaju i zakoni robotike Isaka Asimova – kako da ograničimo ono što sami ne umemo da shvatimo i kontrolišemo?

Ilya Sutskever ostaje najkontroverzniji lik. Kao glavni naučnik, bio je vrlo važan u razvoju veštačke inteligencije u firmi, ali ga neki opisuju i kao najekscentričnijeg. Otkriva se da je prestao da govori o „opštoj veštačkoj inteligenciji“ kao cilju za narednih deset godina, a to je zamenio pričom o „superinteligenciji“. Projekat Q* dolazi u žižu javnosti, često u kombinaciji sa A*, zajedno s još nekim detaljima, kao i evolucija Sutskever-ovog poimanja „opšte inteligencije“.

Mi zapravo ne umemo precizno da objasnimo šta je „inteligencija“. Ne možemo ni da se dogovorimo kako da merimo ljudsku inteligenciju. Stare definicije su odavno pale u vodu. U vodu padaju i zakoni robotike Isaka Asimova, jer ne umemo da ograničimo ono što sami ne umemo da shvatimo i kontrolišemo. U to spada i veštačka inteligencija: razumemo kako pojedinačni delovi rade, ali nismo sposobni da objasnimo procese višeg nivoa, zašto je neka kombinacija silnih milijardi parametara potrebna. Mi te parametre ne biramo, već puštamo mašine da bezbrojnim samopodešavanjima dođu do nečega što nama izgleda kao da radi, ali nismo u stanju da to sa sigurnošću tvrdimo, jer ne možemo sve da proverimo.

Šta je zapravo veštačka inteligencija?

Od kakvog nam je značaja bilo kakva definicija inteligencije, veštačke ili one „prave“, šta god to bilo? Prestaje da bude važno kako radi i postaje da bude važno samo koga od nas „to“ može da zameni. Obični računari su glupi ali brzi, te se ljudi više ne bave računanjem. Prešli smo s pisanja na kucanje svojih reči, a idemo prema tome da samo zadamo temu. Samovozeća kola su takođe glupa u poređenju sa slikom koju imamo o sebi kao vozačima, ali ne piju, ne drogiraju se i ne gube fokus zbog privlačnih ljudi u okolini, te statistički gledano već bolje voze od našeg proseka.

Nova generacija veštačke inteligencije dalje pomera granicu isplativosti ljudi – potrebno je biti još „pametniji“ ili sposobniji na neki drugi način da bi se ta granica prešla

Ono što nas izdiže od do sada viđenog u veštačkoj inteligenciji jeste naša sposobnost da neprestano učimo na osnovu sopstvenih iskustava i misli. „Majmuni uče na tuđim greškama a ljudi na svojima“. Dosadašnja veštačka inteligencija je u tom pogledu bila uporediva s tim majmunima, ali nije ni mogla da uči na sopstvenim greškama. Ako su A* i Q* povezani sa tzv. A* algoritmom pretrage i Q* algoritmom za učenje, njihova upotreba omogućava veštačkom umu da sam nalazi rešenja bez prethodnog učenja iz drugog izvora.

Neki izvori tvrde da je upravo ovo postignuto u OpenAI. Kažu da rezultat nije „pametnjaković sveznalica“, već nešto što ume da rešava probleme na nivou učenika osnovne i/ili možda srednje škole. Ta deca su inteligentna, samo nisu još potpuno obučena, a to nije nepremostivo. Umeju i jedna druge da nauče novim trikovima, a dolazimo i u doba gde koristimo jednu veštačku inteligenciju, koju ne razumemo u potpunosti, da napravi novu veštačku inteligenciju…

Autor: Nadežda Veljković