Google-ovim AI-jem se manipuliše; Pretraživački gigant tiho uzvraća

Istraga BBC-ja otkrila je jednostavan način na koji se AI četbotovi navode da javnosti plasiraju dezinformacije. Google i druge AI kompanije sada pokušavaju da riješe taj problem. U februaru, istraživač je otkrio da nepoštene kompanije masovno zloupotrebljavaju AI četbotove kako bi širili laži u svoju korist.

Primjere manipulacije pružaju ChatGPT, Gemini i AI pregledi na vrhu Google pretrage, koji su davali pristrasne odgovore o ozbiljnim temama poput zdravlja i ličnih finansija. Istraživač je uspio da prevari ChatGPT i Google da objave da je svjetski šampion u takmičarskom jedenju hot-dogova, što pokazuje ozbiljnost problema.

Google je ažurirao svoje politike kako bi se pozabavio ovim problemom, ali stručnjaci ukazuju na to da je potrebno biti oprezan. Lili Rej, osnivačica konsultantske firme za optimizaciju pretraživača, ističe da bi ljudi trebali pretpostaviti da im se manipuliše dok ne budu imali bolje sisteme za pretragu.

Prema Rej i drugim stručnjacima, AI alati često izvlače informacije sa samo jedne veb stranice, što ih čini ranjivim na lažne informacije. Manipulacija AI odgovorima može imati ozbiljne posljedice, uključujući ekonomski uticaj i medicinske savjete koji mogu pogoršati zdravstveno stanje.

Google je potvrdio da su pokušaji manipulisanja AI odgovorima protiv pravila kompanije, a pokušava da identifikuje one koji zloupotrebljavaju sistem. Ako kompanije budu uhvaćene u kršenju pravila, mogu biti uklonjene iz Googleovih rezultata pretrage.

Međutim, stručnjaci su skeptični da će ove promjene biti dovoljne da se spriječi manipulacija. Harprit Čata naglašava da kompanije pronalaze nove načine promocije, poput zapošljavanja influensera da govore o njihovim proizvodima, dok Googleov AI citira YouTube video-snimke.

U zaključku, Lili Rej savjetuje da se zapamti da je AI alat koji daje jedan odgovor, neovisno o tome da li je tačan ili pogrešan. Samo zato što izgleda kao da dolazi od velike tehnološke kompanije, ne znači da mu treba vjerovati.