AI za šest sati osmislio 40.000 opasnih hemijskih jedinjenja
Istraživači su napravili eksperiment sa veštačkom inteligencijom, koja pokazuje koliko ona može da bude opasna. Oni su na konferenciji koja se bavi kontrolom bioloških oružja predstavili zastrašujući eksperiment. AI, koji se upotrebljava za istraživanje lekova, oni su pretvorili u mašinu za istraživanje hemijskih oružja. Za samo šest časova rada, ovaj AI je osmislio 40.000 potencijalno smrtonosnih hemijskih jedinjenja. Među predstavljenim rešenjima našle su se i varijante koje veoma podsećaju na VX, najopasniji nervni agent ikad osmišljen.
Šef istraživačkog tima koji je razvio ovaj AI, naveo je da su dobili ideju da ga naprave (modifikuju), nakon što su pozvani na konferenciju da predstave novitete u domenu mašinskog učenja i neetičkim načinima njegove primene. Zato su osmislili novi algoritam, koji pokazuje koliko je jednostavno da se istraživanja novih tehnologija upotrebe za potpuno drugačije ciljeve od prvobitno planiranih.
U konkretnom slučaju, njihov AI je morao da nauči kakva su jedinjenja toksična, da bi ih izbegao prilikom razvijanja novih lekova. Zatim su oni samo malo promenili algoritam koji je, umesto da izbegava toksična jedinjenja, počeo da ih proizvodi punom parom. Za to su upotrebili generativni model, koji se fokusirao na toksična rešenja – kada bi našao jedno takvo jedinjenje, pokušavao je da stvori slična jedinjenja, pretpostavljajući da će i ona biti takođe toksična.
Na kraju, ispostavilo se da je AI za neka od osmišljenih jedinjenja predvideo da su toksičnija od VX-a, koji se smatra za najsmrtonosnije jedinjenje koje je stvorila ljudska ruka. Naravno, ovo je sve (za sada) u domenu teorije. Ni jedno od pomenutih jedinjenja nije generisano, već predstavljaju samo računarske simulacije i predviđanja. Ali, pošto su prediktivni modeli već odavno prilično precizni, čak i da od pomenutih 40.000 rešenja postoji mnogo „lažno pozitivnih“, postoji opravdana bojazan da su mnoga od njih veoma opasna.
Izvor: The Verge
