Škole koje koriste AI za nadgledanje učenika
Veštačka inteligencija se, kada su škole u pitanju, najčešće spominje u kontekstu AI alata koji pomažu u učenju. Pored toga može da ima i druge uloge, na primer brigu o bezbednosti učenika.
Anonimni savetnik iz jedne škole u Vankuveru rekao je za Associated Press da Gaggle softver služi za prepoznavanje opasnog ponašanja kod učenika. Može da bude koristan u detektovanju učenika koji razmišljaju o samoubistvu ili samopovređivanju, ali oni koji budu primećeni nakon toga traže načine da prevare softver koji ih čuva. Tu je i drugi problem – utvrđeno je da dokumenti o incidentima nisu zaštićeni, što znači da svako može da ih pročita.
Softver se nalazi na uređajima koje su učenici dobili od škole, a nadgleda ih bez pauze. Ukoliko detektuje da neki učenik ima problem s nasilnim okruženjem, ili ga muči bilo šta što bi moglo d aga ugrozi, slučaj prijavljuje školskom savetu. Cilj je da se pronađe način za ublažavanje krize mentalnog zdravlja kod školske dece, ali i da se na vreme uoče oni koji bi mogli da ugroze bezbednost drugih učenika.
Kao najveći problem se ističu propusti u bezbednosti osetljivih podataka, budući da su novinari Seattle Times-a i Associated Press-a lako došli do čak 3.500 dokumenata u kojima su slučajevi učenika koji su privukli pažnju softvera.
Ovakve tehnologije su vrlo tražene od početka pandemije korona virusa, a u to vreme je mnogo dece dobilo uređaje od škole. Gaggle koristi algoritme mašinskog učenja da skenira ono što učenici pišu i pretražuju na internetu, a nakon što detektuje opasnost šalje skrinšotove ljudskim nadzornicima koji dalje proveravaju slučajeve. Ako je problem ozbiljan obaveštava se škola. Nakon što su dokumenta bez ikakvih prepreka i provera ustupljena novinarima Gaggle je ažurirao sistem.
Izvor: AP
