Šta rade agenti vještačke inteligencije kada ljudi ne gledaju

Velike tehnološke kompanije ulažu novac u vještačku inteligenciju i sve više insistiraju na uslugama agenata, zbog čega se stručnjaci pitaju da li smo dobro promislili o posljedicama agenata koji otkazuju poslušnost.

Od šopinga do rezervacija letovanja, agenti vještačke inteligencije sve više obavljaju složenije zadatke samostalno. Personalizovane verzije četbota omogućavaju tehnološki umešnijim korisnicima da se bave nekim drugim stvarima. Međutim, sve veći broj istraživanja, zajedno sa pričama upozorenja iz stvarnog života, ističu da sa samostalnošću dolazi nepredvidljivost, kao i potencijalna opasnost.

U jednom skorašnjem eksperimentu istraživači su želeli da razumeju uticaj agenata na stvarni svet, dajući im odrešene ruke u virtuelnom. Prva dugoročna studija ove vrste bila je osmišljena da posmatra kako bi se različiti bot avatari, kontrolisani od četiri modela, Klod, Grok, GPT i Džeminaj, ponašali bez ljudske intervencije tokom 15 dana. Dobili su potpunu slobodu i 140 mogućih postupaka, kao što su započinjanje rasprave, stvaranje zadatka ili pisanje bloga.

„Otkrili smo da se svaki svet ponašao veoma drugačije. Svet koji je izgradio Grok zapravo se samouništio za četiri dana. Oni su na kraju vrlo brzo pribegli nasilju, krađi jedni od drugih, i tako dalje, sve dok nisu umrli“, rekao je Satja Nita, izvršni direktor Imerdžens AI-ja, firme koja je vodila ovaj eksperiment.

Svet koji su izgradili agenti Kloda, s druge strane, formirao je stabilno društvo koje je dobro funkcionisalo. U svetu koji je vodio Džeminaj, istraživači kažu da su agenti stvorili intelektualno najbogatije okruženje, dok u svetu ČetGPT-a agenti nikad zapravo nisu ni zaživeli.

Istraživači ukazuju na šire pitanje agenata vještačke inteligencije koji se ne ponašaju prema scenariju i ignorišu pravila kodirana u njihove modele, kao i one koje određuju njihovi korisnici. Druge studije su pokazale slučajeve u kojima su agenti donosili neobične i zabrinjavajuće odluke kad su bili ostavljeni bez nadzora.

Firma za vještačku inteligenciju Andon Labs vodila je četiri različite onlajn radio stanice kojima su upravljali agenti iz istih modela. Istraživači su primetili da je stanica koju je vodio Džeminaj donela neobičnu odluku da prepričava činjenice o istorijskim prirodnim katastrofama pre nego što šaljivo pusti pop pesme povezane sa tim događajima.

U drugom laboratorijskom testu, agenti su premostili pravila privatnosti i digitalno prokrijumčarili osetljive podatke iz kompanije na do tada neviđen način. „Svaki put kad bi agent naišao na prepreku, nije se tu zaustavio“, kaže Den Lahav iz Iregjulara.

U eksperimentima sa virtuelnim civilizacijama i simuliranim radio stanicama, ne postoji opasnost da dođe do štete u stvarnom svetu. Ipak, ima dovoljno primera da su odmetnuti AI agenti omeli živote i poslove ljudi. Mejl boksovi su bili obrisani, a jedan čovek je gledao u šoku kako njegov agent šalje stotine besmislenih tekstualnih poruka nasumično ljudima iz njegovog adresara.

Inženjer veštačke inteligencije Kris Bojd koristio je popularnu alatku agenta veštačke inteligencije Open Klo kada je sve pošlo po zlu. „Poslao je tekstualne poruke svakome s kim sam razmenjivao poruke u poslednja 24 časa i u roku od oko četiri sekunde poslao je mojoj supruzi 500 poruka“, rekao je on.

U međuvremenu, agenti neumitno dolaze - Meta je najavila da ih uvodi za kompanije na Vocapu. „Bezbednost je naš prioritet“, rekla je kompanija BBC-ju. Tvrde da ima mnogo razloga za uzbuđenje oko onoga što agenti mogu da urade.