Niko nije spreman za digitalnu besmrtnost

Svake nekoliko godina, Hany Farid i njegova žena vode mračan ali neophodan razgovor o svojim planovima za kraj života.

Da li želite da živite zauvek kao chatbot?

Nadaju se da će zajedno proći još mnogo decenija—Farid ima 58, a njegova žena 38 godina—ali žele da budu sigurni da su svi njihovi poslovi sređeni kada dođe vreme. Pored razgovora o zahtevima za sahranu i finansijskim odlukama, Farid je nedavno pokrenuo jezivije pitanje: Ako on umre prvi, da li bi njegova žena želela da ga digitalno oživi kao AI klona? Farid, stručnjak za AI na UC Berkeley, zna bolje od mnogih da su fizička smrt i digitalna smrt dve različite stvari.

„Moja žena ima moj glas, moj izgled i mnoge moje spise,“ rekao je. „Mogla bi veoma lako da obuči veliki jezički model da bude interaktivna verzija mene.“ Drugi ljudi su već tačno to učinili. Umesto da tugujete za voljenom osobom slušajući njihove poruke na repeatu, sada možete da ih prenesete u AI audio program i kreirate uverljiv glasovni klon koji vam čestita rođendan. Obučite chatbot na osnovu mejlova ili poruka preminule osobe i možete zauvek komunicirati sa digitalnom aproksimacijom njih. Postoji dovoljno potražnje za ovim „botovima smrti“ da mnoge kompanije, uključujući HereAfter AI i StoryFile, specijalizuju za njih. Kada je reč o planiranju kraja života, nova tehnologija već nam je donela nove razmatranja.

Nije samo pitanje šta će se desiti sa mojom kućom, već i šta će se desiti sa mojim Instagram nalogom? Mrtvi ljudi mogu da opstanu kao digitalni duhovi preko svojih uređaja i naloga. Ali ti artefakti pomažu u očuvanju njihove memorije. Nasuprot tome, bot smrti stvara sintetičku verziju vas i omogućava drugima da interaguju sa njom nakon što ste otišli. Ovi alati predstavljaju novi vrsta dileme: Kako planirati za nešto poput digitalne besmrtnosti? Farid, stručnjak za AI, nije pronašao odgovor u svojim razgovorima sa ženom. „Imamo vrlo suprotstavljene osećaje o tome,“ rekao je.

„Zamislio bih da ćemo u narednih pet do deset godina imati razgovor o tome na isti način na koji vodimo druge razgovore o kraju života.“ Tuga zbog smrti voljene osobe je teška, i lako je razumeti zašto bi neko želeo da pamti preminulog na način koji se čini, pa, stvarnim. „Iskustvo je nadoknadilo ono što sam propustila sa svojim ocem,“ rekla je žena iz Kine za Rest of World nakon što je stvorila repliku svog preminulog oca. Takođe je lako videti zamke. Glasovni klon može biti napravljen da kaže šta god njegov tvorac želi da kaže: Ranije ove godine, tim jednog indijskog kandidata za parlament stvorio je realističan video u kojem njegov pokojni otac—poznati političar—podržava ga kao svog „prava naslednika.“

U poređenju sa glasovnim klonovima, chatbotovi posebno predstavljaju probleme. „Imati nešto što je u suštini improvizacija onoga što ste možda rekli u životu—to može da krene pogrešno na mnogo različitih načina,“ rekao je Mark Sample, profesor digitalnih studija na Davidson College-u. Bilo koji chatbot obučen na širokom opsegu teksta iz života osobe će proizvoditi poruke koje odražavaju ne samo ko je ta osoba bila u trenutku njihove smrti, već i kako je postupala tokom svog života—uključujući, potencijalno, ideje koje su napustili ili pristrasnosti koje su prevazišli.

Chatbot takođe može, naravno, očuvati bilo koje manje poštovane osobine koje su imali čak i na kraju života. Tuga se takođe komplikuje. Botovi smrti mogu biti nezdrav način suočavanja za one koji su u žalosti—način da nikada ne priznate potpuno smrt voljene osobe ili da se prilagodite životu bez njih. „To je alat, i alat može biti koristan ili može biti prekomerno korišćen,“ rekao je Dennis Cooley, profesor filozofije i etike na North Dakota State University. „Iskrivljuje sposobnost osobe da interaguje i angažuje se u svetu.“ Ono što sve ovo čini posebno problematičnim je što preminula osoba možda nije dala pristanak.

StoryFile i HereAfter AI su oba dizajnirana da vam omogućavaju da predate svoje podatke pre smrti, što omogućava neku kontrolu u procesu. Ali ove politike nisu standardne širom industrije digitalnog posle života, napomenuli su AI etičari sa Leverhulme Centra za budućnost inteligencije Univerziteta u Cambridge-u u maju. Istraživači su proglasili industriju „visokim rizikom,“ sa mnogo potencijala za štetu. Baš kao i druge aplikacije koje vas uzrujavaju obaveštenjima, bot smrti bi mogao nastaviti da šalje podsetnike da komunicirate sa AI replikom vaše majke. Ili bi neka kompanija mogla pretnjom da obustavi pristup botu smrti ako ne platite više novca. Drugim rečima, dok ljudi sređuju svoje poslove, postoje mnogi razlozi zbog kojih bi trebali da uzmu u obzir mogućnost botova smrti.

Neke oporuke već uključuju uputstva za profile na društvenim mrežama, mejlove i telefone zaštićene lozinkom; jezik o AI bi mogao biti sledeći. Možda biste mogli da postavite specifične smernice za to kako se vaši digitalni ostaci mogu preraditi za bot smrti. Ili biste mogli potpuno da se odreknete digitalne besmrtnosti i izdate ono što je suštinski digitalni „ne oživljavaj.“ „Možete staviti uputstvo u svoj plan nasledstva poput ‘Ne želim da bilo ko ovo uradi,’“ rekao je Stephen Wu, advokat u Silicon Valley Law Group-u, u vezi sa botovima smrti.

„Ali to nije nužno izvršivo.“ Obaveštavanje vaših voljenih da ne želite da budete pretvoreni u AI klona možda neće zaustaviti nekoga da prekrši pravila i učini to ipak. Ako to urade, jedini pravni lijek bi bio u slučajevima kada je AI klon korišćen na način koji krši zakon. Na primer, glasovni klon bi mogao biti korišćen za pristup privatnim nalozima preminule osobe. Ili bi AI replika mogla biti korišćena u komercijalne svrhe, u reklami, recimo, ili na etiketi proizvoda, što bi kršilo osnovno pravo osobe na javnost. Ali naravno, to je mala pomoć za mnoge štetne načine na koje neko može interagovati sa botom smrti.

Kao i mnogo toga u svetu AI-a, mnoge brige o ovim replikama su još uvek hipotetičke. Ali ako botovi smrti nastave da dobijaju na značaju, „videćemo niz novih zakona o AI-u,“ rekao je Thomas Dunlap, advokat iz firme Dunlap, Bennett, i Ludwig. Možda je još čudniji od sveta u kojem botovi smrti postoje svet u kojem su normalni. Dok današnja deca dostignu kraj svog života, ovi digitalni duhovi mogli bi postati deo procesa tugovanja kao fizičke sahrane. „Tehnologija ima tendenciju da prolazi kroz ove cikluse,“ rekao je Farid. „Postoji ta panika, a zatim to razjasnimo; normalizujemo; postavljamo razumne zaštitne mere. Sumnjam da ćemo videti nešto slično ovde.“

Međutim, put napred je neravan. Deo vas može još uvek živeti na osnovu tekstova, mejlova i svega što čini vaš digitalni otisak. To je nešto što buduće generacije možda treba da imaju na umu pre nego što napišu ljutiti post na društvenim mrežama upućen nekoj avio-kompaniji. Osim pitanja „Šta ovo kaže o meni sada?“, možda će morati da se pitaju „Šta će ovo reći o meni kada nestanem?“

Stariji ljudi koji danas sređuju svoje poslove nalaze se u nezgodnoj poziciji da donose odluke na osnovu tehnologije botova smrti kakva postoji trenutno, iako bi posledice mogle da se odvijaju u veoma različitom svetu. Glasovno kloniranje je već prešlo „dolinu neugodnosti“, rekao je Farid, „ali za nekoliko godina, sve intonacije i smeh i izrazi; rešićemo taj problem.“ Za sada, stariji odrasli koji se suočavaju sa botovima smrti ostaju zbunjeni. Čak i ako uspeju da obuhvate sve svoje posede i planiraju svaku odluku o kraju života—monumentalan zadatak u svom pravcu—njihovi digitalni ostaci još uvek mogu trajati zauvek.

Izvor: Theatlantic