Opasnost od veštačke inteligencije u zdravstvu
Studija koju su objavili akademici sa Univerziteta u Oksfordu otkrila je da neki pružaoci usluga koriste generativne AI (Gen AI) chat botove kao što je ChatGPT za kreiranje planova nege za pacijente.
Studija poziva negovatelje, zajedno sa ostalima koji rade u zdravstvenom sektoru, da budu oprezni u korišćenju AI alata koji nisu regulisani. Prema istraživanju, to bi moglo da dovede do toga da zdravstveni radnici deluju na osnovu informacija koje su obmanjujuće, netačne ili pristrasne – što bi kao rezultat dovelo do štete.
Sa ubrzanjem digitalne transformacije, zdravstvena industrija nastavlja da istražuje širok spektar slučajeva upotrebe AI tehnologije, što izaziva pozive za zaštitu.
Predviđa se da će tržište zdravstvene zaštite veštačke inteligencije (AI) porasti sa 11 milijardi američkih dolara (2021.) na više od 187 milijardi dolara do 2030. godine, navodi Statista. Ovo povećanje u zdravstvenom sektoru moglo bi rezultirati nekim značajnim promenama u načinu rada zdravstvenih radnika, bolnica, farmaceutskih i biotehnoloških kompanija.
Nalazi Oksfordskog univerziteta predstavljaju potencijalni rizik za poverljivost pacijenata, prema rečima istraživača u ranoj karijeri na Institutu za etiku u veštačkoj inteligenciji u Oksfordu, Dr Caroline Green, koja je anketirala organizacije koje brinu o ovoj studiji.
„Ako stavite bilo koju vrstu ličnih podataka u generativni AI chatbot, ti podaci se koriste za obuku jezičkog modela“, kaže ona. „Ti lični podaci mogu biti generisani i otkriveni nekom drugom.
U skladu sa ovim bezbednosnim zabrinutostima, moglo bi se tvrditi da oslanjanje isključivo na veštačku inteligenciju za uspostavljanje planova pacijenata može dovesti do nestandardne nege, što rezultira etičkim dilemama za organizaciju.
Zaštita osetljivih podataka u kontekstu zdravstvene zaštite je od vitalnog značaja i stoga studija poziva zdravstvene radnike da budu oprezni kada koriste veštačku inteligenciju.
Pored ovog istraživanja, Univerzitet Oksford takođe završava trofazni projekat koji ima za cilj da smanji pristrasnost u modelima predviđanja zdravlja AI koji su obučeni na osnovu podataka o pacijentima iz stvarnog sveta.
Pošto se AI obučava i testira korišćenjem postojećih podataka, ako njeni skupovi podataka nisu dovoljno široki, njegova sposobnost učenja često odražava postojeće pristrasnosti. Ovo može dovesti do diskriminacije na osnovu ličnih podataka, uključujući zaštićene karakteristike kao što su rasa, pol i seksualnost i još mnogo toga.
Iako postoji neizbežna zabrinutost zbog upotrebe veštačke inteligencije u donošenju odluka u zdravstvu, tehnologija ima veliki potencijal da pomogne u poboljšanju lečenja pacijenata.
Prema smernicama NHS-a (National Health Service), veštačka inteligencija se trenutno koristi i za rendgenske i skenerske analize kako bi podržala radiolozi u brzom procenjivanju, omogućavajući im više vremena da provode direktno sa pacijentima.
Pored toga, može ponuditi podršku pacijentima u virtuelnim odeljenjima sa tehnologijom daljinskog praćenja. NHS takođe navodi da se tehnologije zasnovane na veštačkoj inteligenciji takođe koriste za prošireno donošenje odluka u vezi sa zdravstvenim i zdravstvenim tretmanima – što znači da će profesionalci doneti konačnu odluku o lečenju pacijenata, ali će uzeti u obzir rezultate veštačke inteligencije.
Stuart Munton, šef za grupnu isporuku u AND Digital, kaže: „S obzirom na to da je osoblje na prvoj liniji pod pritiskom, argument za usvajanje AI u sektoru zdravstvene zaštite je uverljiv, ali ovo istraživanje je još jedan podsetnik na rizike povezane sa neproverenom tehnologijom kojoj je dozvoljeno da daje preporuke za pacijente.
„Istina je da će u ravnoteži AI doneti ogromne koristi zdravstvenim radnicima na dugi rok, ali ovaj zahtev treba da se uskladi sa ublažavanjem grešaka, sajber rizika i zabrinutosti za privatnost.
Poslednjih meseci, neke velike tehnološke kompanije su se obavezale da će prepoznati potencijal veštačke inteligencije u zdravstvenoj industriji. Konkretno, ServiceNow se nedavno zalagao za etičke sisteme veštačke inteligencije kako bi ponudio poboljšane rezultate pacijenata i dostavio informacije osoblju kako bi poboljšao negu i smanjio stope ponovnog prijema pacijenata.
Izvor: aimagazine.com
