Microsoft će ograničiti dnevne Bing AI upite kako bi sprečio bota da daje čudne odgovore

Microsoft će početi da ograničava dužinu razgovora sa svojim Bing četbotom koji pokreće veštačka inteligencija na 50 dnevno, u pokušaju da spreči da generiše neodgovarajuće odgovore na upite korisnika.

Iako je lako misliti da Bing ima ličnost, chatbot je samo softver koji ne razume šta govori

Korisnici su prijavili da je funkcija četovanja na web browseru Edge poludela nakon što je bila predugo ispitivana. Bing je pretio korisnicima, ignorisao ih i postao emocionalno manipulativan. Čak je tvrdio da je zaljubljen u novinara – i rekao mu da napusti svoju ženu. U pokušaju da ukroti Bingovo poremećeno ponašanje, Microsoft je objavio da ograničava korisnike na 50 ćaskanja dnevno i ne više od pet turnusa ćaskanja po sesiji. „Turnus je razmena razgovora koja sadrži i pitanje korisnika i odgovor od Binga“, objasnila je kompanija.

Iako je lako misliti da Bing ima ličnost, chatbot je samo softver koji ne razume šta govori. Obučen da poprimi konverzacijski ton, oponaša ljudski dijalog i može početi da izlazi iz postavljenih okvira ako mu se postavljaju emocionalno nabijena pitanja. Nažalost, veštačka inteligencija ponekad može da počne to da radi i kada se postavljaju naizgled benigna pitanja.

„Nakon što sesija ćaskanja dođe do pet turnusa, od ljudi će biti zatraženo da započnu novu temu. Na kraju svake sesije ćaskanja, kontekst treba da bude očišćen kako se model ne bi zbunio“, pojašnjava Microsoft.

Google traži od zaposlenih da pomognu u obuci AI search bota

Google traži od osoblja da poboljša AI chatbot, Bard, koji će se koristiti za pretragu weba prepisivanjem teksta koji generiše softver. Ovo je uzbudljiva tehnologija, ali još uvek u ranim danima“, kaže Google. „Osećamo veliku odgovornost da to uradimo kako treba, a učešće zaposlenih u internoj verziji pomoći će da se ubrza obuka modela i testira njegov kapacitet opterećenja (da ne spominjemo, isprobavanje Barda je zapravo prilično zabavno!). Bard najbolje uči na primeru, tako da će odvajanje vremena za promišljeno prepisivanje odgovora mnogo pomoći da poboljšamo režim“.

Izvršni direktor Sundar Pichai preporučio je zaposlenima da provedu oko dva do četiri sata svog vremena na Bardu, i napomenuo da će „ovo biti dugo putovanje za sve“. Iako se veliki jezički modeli kao što je Bard reklamiraju kao revolucionarni način za traženje informacija na internetu, oni imaju tendenciju da generišu nepouzdane odgovore. Bolji podaci ne čine ove modele savršenima, ali često poboljšavaju njihove performanse.

Zakon EU o veštačkoj inteligenciji (EU AI Act), čiji je cilj da reguliše tehnologiju za zaštitu korisnika od algoritamske štete i pristrasnosti, odlaže se dok zakonodavci pregovaraju o njegovim konačnim uslovima. Očekuje se da će nacrt zakona biti usvojen kako bi zemlje članice glasale krajem sledećeg meseca, ali bi moglo da bude odloženo pošto zvaničnici ne mogu da se dogovore o osnovnim principima, navodi Rojters. Politike moraju biti dovoljno stroge da se suprotstave nedostatku transparentnosti i tendenciji veštačke inteligencije da daje pristrasne rezultate, istovremeno štiteći privatnost podataka – bez suzbijanja razvoja i ulaganja. „Ovde je očigledna tenzija između fokusa na osnovna prava, s jedne strane, i onih koji kažu da su ona nužno u sukobu sa inovacijama“, rekao je evropski poslanik Sergej Lagodinski, koji predstavlja stranku Zelenih u Nemačkoj. Zakonodavci se navodno bore da odluče koje AI aplikacije treba da budu označene kao „visoko rizične“ i podležu oštrijim pravilima. Nije jasno kada će predlog zakona preći u naredne zakonodavne faze. “Dosije je dug i složen, poslanici EP naporno rade na postizanju sporazuma o svom mandatu za pregovore. Međutim, ne postoji rok ili kalendar za naredne korake”, rekao je jedan poslanik.

Arhitekte može da zameni AI, upozorava profesor

AI bi mogao da preuzme poslove arhitekata dok modeli za generisanje slika postaju bolji u dizajniranju zgrada, enterijera prostorija i još mnogo toga. Nil Lič, profesor na Međunarodnom univerzitetu Florida koji vodi Doctor of Design program, upozorio je arhitekte da komercijalni alati kao što su DALL-E, Midjourney i Stable Diffusion dovode njihove poslove u opasnost.

Ljudi mogu lako da prave realistične prikaze kuća, zgrada i soba samo sa tekstualnim opisima, smanjujući potrebu da se arhitekte nateraju da crtaju i modeliraju svoje dizajne. Lič je rekao da ovi alati čine arhitekte produktivnijim, ali ako radnici mogu da rade više za manje vremena, da li će kompanije i dalje zapošljavati onoliko ljudi? „Često nas navode da verujemo da su glasine o smrti arhitekte u velikoj meri preuveličane. Jedinstvene kreativne moći ljudskog uma, kako priča kaže, će trajati. Međutim, postoje znaci da AI postaje ne samo dobra, već zastrašujuće dobra, do te mere da počinje da otkriva naša sopstvena ograničenja kao ljudskih bića i nesumnjivo dovodi u opasnost naše poslove”, napisao je u tekstu za dizajnerski časopis Dezeen. Lič je savetovao arhitekte da uzmu ove alate veštačke inteligencije i nauče kako da budu “superkorisnik” da bi se prilagođavali kako se njihova profesija razvija.

Izvor: Theregister