Istraživač OpenAI podnosi ostavku
Jan Leike, ključni istraživač OpenAI-a koji je dao ostavku ranije ove nedelje nakon odlaska suosnivača Ilya Sutskever, objavio je da su „sigurnosna kultura i procesi zauzeli mesto u odnosu na sjajne proizvode“ u kompaniji.
Leike izjave su usledile nakon što je Wired izvestio da je OpenAI u potpunosti raspustio tim posvećen rešavanju dugoročnih AI rizika (nazvan „tim za superporavnanje“). Leike je vodio tim za Superalignment, koji je formiran prošlog jula da bi „rešio ključne tehničke izazove“ u primeni bezbednosnih protokola dok je OpenAI razvio AI koji može da razmišlja kao čovek.
Prvobitna ideja za OpenAI bila je da javno pruži svoje modele, otuda i ime organizacije, ali oni su postali vlasničko znanje zbog tvrdnji kompanije da bi omogućavanje pristupa takvim moćnim modelima bilo kome moglo biti potencijalno destruktivno.
„Davno smo zakasnili da postanemo neverovatno ozbiljni u vezi sa implikacijama AGI. Moramo dati prioritet pripremama za njih najbolje što možemo“, rekao je Leike u narednim objavama o svojoj ostavci u petak ujutro. „Samo tada možemo osigurati da AGI koristi čitavom čovečanstvu.
The Verge je ranije ove nedelje izvestio da će John Schulman, još jedan suosnivač OpenAI koji je podržao Altmana tokom prošlogodišnjeg neuspešnog puča u odboru, preuzeti Leikeove odgovornosti. Sutskever, koji je odigrao ključnu ulogu u ozloglašenom neuspelom puču protiv Sema Altmana, najavio je odlazak u utorak.
„Tokom proteklih godina, bezbednosna kultura i procesi su zauzeli mesto u odnosu na sjajne proizvode“, objavio je Leike.
Leikeovi postovi ističu sve veću napetost unutar OpenAI-a. Dok se istraživači utrkuju da razviju veštačku opštu inteligenciju dok upravljaju potrošačkim AI proizvodima kao što su ChatGPT i DALL-E, zaposleni poput Leikea izražavaju zabrinutost u vezi sa potencijalnim opasnostima stvaranja super-inteligentnih AI modela. Leike je rekao da je njegov tim uklonjen sa prioriteta i da nije mogao da dobije računarske i druge resurse za obavljanje „ključnog“ posla.
„Pridružio sam se jer sam mislio da će OpenAI biti najbolje mesto na svetu za ovo istraživanje“, napisao je Leike. „Međutim, već neko vreme se ne slažem sa rukovodstvom OpenAI u vezi sa osnovnim prioritetima kompanije, sve dok konačno nismo došli do tačke preloma.
Izvor: TheVerge
