Deepfake preminulog muškarca izgovara sopstvenu izjavu pred sudom

Odbrana tvrdi da upotreba veštačke inteligencije može biti osnov za žalbu.

Deepfake avatar

Veštački generisana verzija preminulog žrtve incidenta iz besa u saobraćaju pojavila se u sudnici kako bi iznela sopstvenu izjavu o posledicama zločina, što je po svemu sudeći prvi takav slučaj ikada.

Ideja da se koristi AI verzija žrtve, Christophera Pelkeyja, došla je od njegove porodice, prema navodima tužilaštva u okrugu Maricopa. Njegova sestra je rekla da je dve godine pisala izjavu, ali da joj se činilo da to „ne bi učinilo pravdu“ sećanju na njega. Pelkey je upucan i ubijen 2021. godine tokom incidenta na putu.

Tako je nastala ideja o korišćenju deepfake avatara. Sestra je napisala tekst, za CNN izjavivši da je sigurna „da je to ono što bi on rekao“. Sudija Todd Lang je odobrio ideju i porodica je prikazala video sa veštački generisanim Pelkeyjem u sudnici. U videu avatar čak i traži blažu kaznu za svog ubicu.

„Gabrielu Horcasitasu, čoveku koji me je upucao: Šteta što smo se sreli tog dana u tim okolnostima,“ rekao je digitalni Pelkey. „U nekom drugom životu verovatno bismo mogli da budemo prijatelji. Verujem u oproštaj.“

Međutim, sudija je ipak izrekao maksimalnu kaznu od preko 10 godina zatvora. „Čuo sam taj oproštaj,“ rekao je. „Mislim da je bio iskren i da odražava karakter o kojem sam danas čuo.“

Odbrana tvrdi da upotreba AI avatara može biti osnov za žalbu. „Iako sudije imaju široku slobodu da čuju izjave žrtava, apelacioni sud će morati da odluči da li je to bila greška“, rekao je branilac Jason Lamm. Inače, slučaj je već ponovo razmatran zbog proceduralnih grešaka.

Profesor prava na Državnom univerzitetu Arizone, Gary Marchant, specijalizovan za etiku i nove tehnologije, upozorava na presedan:
„Vidite tu osobu kako govori u sudnici, a u stvarnosti je mrtva. To je dodatni iskorak koji nas može odvesti na opasno tlo“.

Izvor: Engadget