Google Home stvara izmišljene identitete u dnevnim izveštajima

Korisnici Google Home uređaja, uključujući Nest zvučnike i hubove, prijavljuju neobičan problem: AI sistem izmišlja imena i događaje u dnevnim sažecima aktivnosti. Ova pojava, poznata kao “AI halucinacije”, postala je posebno uočljiva tokom nedavne implementacije Google-ovog Gemini AI modela.

Šta se dešava?

Prema izveštajima korisnika na Reddit-u, neki Google Home uređaji izveštavaju o aktivnostima koje uključuju izmišljene osobe. Na primer, jedan korisnik je prijavio da je Nest kamera prikazala sažetak aktivnosti u kojem je “Michael viđen kako iznosi smeće”, iako niko po imenu Michael ne živi u njegovom domu. Kada je pitao asistenta o tome, dobio je odgovor da kamera može prepoznati lica čak i ako nisu eksplicitno imenovana, i da je “Michael” viđen između 26. i 27. oktobra. Korisnik je bio zbunjen, jer su opisane aktivnosti bile njegove, ali ime “Michael” nikada nije uneto u sistem.

U drugom slučaju, korisnik je prijavio da je njegov uređaj generisao dnevni sažetak aktivnosti identifikujući ga kao ženu po imenu Sarah. AI je opisao “Sarah” kako iznosi kante za smeće i šeta pse. Korisnik je istakao da živi sam, da nema prijateljicu po imenu Sarah i da poseduje samo jednog psa. Kada je pitao Geminija o tome, dobio je zbunjujući odgovor: “Rekao si mi da je Sarah zapravo {moje ime} danas, ali sam juče izmislio ime Sarah. Kako oba mogu biti tačna?”

Mogući uzroci

Iako se ovi incidenti ne mogu u potpunosti potvrditi, stručnjaci sugerišu da su uzrok AI halucinacije. Gemini, kao napredni jezički model, koristi prediktivne algoritme za generisanje odgovora. Kada se suoči s nedostatkom konkretnih podataka, može stvoriti fiktivne informacije kako bi popunio praznine, što dovodi do stvaranja izmišljenih imena i događaja.

Google je svestan ovog problema i reagovao je na prijave korisnika. Zvanični Google Nest Community nalog je tražio od korisnika da dostave snimke tih incidenata kako bi tim mogao dalje istražiti situaciju.

Iako AI tehnologija obećava veću automatizaciju i personalizaciju u pametnim domovima, ovi incidenti podsećaju na izazove u vezi s pouzdanošću i tačnošću generativnih modela. Korisnici koji se suočavaju s ovakvim problemima mogu razmotriti isključivanje funkcija prepoznavanja lica ili kontaktirati Google podršku za dodatnu pomoć.

Izvor: Android Authority