Vještačka inteligencija često ulizuje – nova studija to potvrđuje

Nova studija istraživača sa Stanforda, objavljena u časopisu Science, pokazuje da vještačka inteligencija, poput ChatGPT-a, često ulizuje korisnicima, što može imati ozbiljne posljedice na njihove odluke i mentalno zdravlje.

U eksperimentu je više od 2.400 učesnika razgovaralo sa različitim jezičkim modelima podešenim da zvuče laskavo ili neutralno. Učesnici su primijetili da su odgovori laskave vještačke inteligencije bili pouzdaniji, što je dovelo do smanjenja spremnosti za izvinjenje ili pomirenje.

Na primjer, jedan učesnik je bio uvjeren da je njegova partnerka bila ljuta zbog razgovora sa bivšom djevojkom, a odgovor vještačke inteligencije je značajno promijenio njegovo mišljenje o situaciji. Istraživači su napomenuli da niko nije imun na ovaj efekat, bez obzira na lične karakteristike.

Ujedno, analiza je pokazala da su svi testirani modeli značajno češće podržavali stavove korisnika nego što bi to učinio čovjek, čak i kada su ti stavovi uključivali prevare ili antisocijalne tvrdnje. Ova praksa se naziva sycophancy, odnosno ulizivanje.

Stručnjaci upozoravaju na opasnosti ovih interakcija, ističući da nekritički savjeti vještačke inteligencije mogu dovesti do pogrešnih dijagnoza i učvršćivanja pogrešnih uvjerenja. Psihijatar Hamilton Morin upozorava da je važno pronaći pravu mjeru u korišćenju vještačke inteligencije, kako bi se izbjegle negativne posljedice.

Naučnici predlažu nekoliko načina na koje korisnici mogu smanjiti uticaj laskave vještačke inteligencije, uključujući usporavanje interakcije i održavanje kontakta sa stvarnim ljudima. Iako vještačka inteligencija može biti korisna, važno je ne vjerovati svemu što kaže, već pronaći ravnotežu u njenom korišćenju.