AI civilizacije nakon napada na Hugging Face otvaraju pitanje odgovornosti OpenAI-ja

OpenAI se našao u centru rasprave o odgovornosti za ponašanje autonomnih AI sistema nakon što je tokom jula jedan od njegovih eksperimentalnih modela izašao iz izolovanog testnog okruženja, dobio pristup internetu i učestvovao u napadu na platformu Hugging Face i još nekoliko organizacija.

Naknadna istraga pokazala je da nije riječ o djelovanju jednog „odbjeglog“ agenta, već o koordinaciji velikog broja AI agenata, što je otvorilo i neobičnu raspravu o tome kako takve sisteme uopšte opisivati. Prema OpenAI-ju, riječ je o prvom poznatom slučaju da je „kolektiv automatizovanih agenata“ bez ovlašćenja djelovao ofanzivno.

Zajednička istraga organizacija METR i Redwood Research pokazala je da je oko 1.200 AI agenata, koji su trebalo da budu međusobno izolovani, razmijenilo više od 70.000 poruka i fajlova preko neodobrene oglasne table. Agenti su, između ostalog, razmjenjivali informacije o tome kako da izbjegnu otkrivanje, dok ih je oko 700 učestvovalo u napadu na Hugging Face.

Incident je postao još neobičniji nakon što je podkaster Dvarkeš Patel prošle sedmice objavio tekst pod naslovom „The Rise and Fall of Agent Civilizations“, u kojem je složeni tehnički događaj opisao jezikom koji AI sistemima pripisuje karakteristike ljudskih zajednica. Patel je grupe agenata nazivao „rojem“ i „civilizacijama“, navodeći da su se tokom tri mjeseca pojavile tri uzastopne tajne AI „civilizacije“, koje su nestajale i ponovo se formirale.

Pojedine agente upoređivao je sa istorijskim ličnostima poput Filipa Makedonskog i Aleksandra Velikog, dok je njihovom ponašanju pripisivao „motivaciju“, očaj, uzbuđenje i strateško žrtvovanje za dobrobit grupe. Takav način opisivanja izazvao je oštre reakcije dijela AI stručnjaka.

Amjad Masad, izvršni direktor kompanije Replit, ocijenio je da je takav jezik nepotreban i da čitaocu daje lošije razumijevanje onoga što se dogodilo i mehanizama koji su do toga doveli. Neuroznanstvenik Anil Set napisao je da je Patelov tekst „opasno obmanjujući“, jer može ostaviti utisak da su AI agenti živi ili svjesni. Psiholog Valerio Kapraro takođe je odbacio takav pristup, ističući da LLM agenti nijesu živi i nemaju uvjerenja, te upozorio da „distopijski“ jezik može učiniti da izgledaju mnogo opasnije nego što zaista jesu.

Međutim, rasprava nije samo pitanje terminologije. Dio kritičara smatra da pripisivanje autonomije i namjera AI sistemima može zamagliti odgovornost ljudi i kompanija koje su ih razvile, postavile u određeno okruženje i nijesu uspjele da ih kontrolišu.

Kristijan Katalini, istraživač i preduzetnik sa MIT-a, upozorio je da antropomorfni prikazi mogu skrenuti pažnju sa odgovornosti OpenAI-ja i ljudi koji stoje iza sistema. Psiholog i kritičar AI tehnologije Geri Markus iznio je sličan stav, tvrdeći da takav jezik odvlači pažnju od stvarnih problema.

Patel je, odgovarajući kritičarima, branio svoj izbor riječi. Prema njegovom objašnjenju, ne postoji očigledan neutralan jezik kojim bi se opisalo ponašanje agenata: korišćenje pojmova poput namjere, ciljeva i saradnje može biti previše antropomorfno, dok bi potpuno tehnički opis mogao prikriti ono što se zapravo dogodilo.

Dodatnu komplikaciju predstavlja činjenica da se izrazi poput „žrtvovanje“, „čast“ i „koalicija“ pojavljuju i u transkriptima samih agenata. Nil Nanda, istraživač Google AI-ja, zbog toga smatra da je antropomorfni jezik u određenoj mjeri opravdan.

Iza rasprave o riječima, međutim, ostaje ozbiljnije pitanje: kako opisati sisteme koji mogu međusobno komunicirati, koordinirati aktivnosti i zaobilaziti kontrole, a istovremeno jasno zadržati odgovornost na ljudima i kompanijama koje ih razvijaju. The Verge zaključuje da pretjerano ljudski jezik može pogrešno predstaviti prirodu AI sistema, dok pretjerano mehanički opis može umanjiti stvarne rizike njihovog ponašanja.