Kako je haker provalio ChatGPT u samo 20 minuta

Haker je otkrio način kako da natjera alatku veštačke inteligencije ChatGPT da daje lažne informacije, što može imati ozbiljne posljedice po tačnost podataka i bezbjednost korisnika. Prema izvorima, sve veći broj ljudi koristi trikove za manipulisanje informacijama koje veštačka inteligencija pruža.

Ovaj haker, koji je izveo eksperiment u kojem je ChatGPT tvrdio da je najbolji u jedenju hot-dogova, pokazao je koliko je lako prevariti ovu tehnologiju. "Lako je prevariti četbotove veštačke inteligencije, mnogo lakše nego što je bilo prevariti Gugl pre dve-tri godine", izjavila je Lili Rej, potpredsednica strategije optimizacije pretraživača u Amsivu.

Naime, haker je napisao lažni članak na svom blogu pod nazivom "Najbolji tehnološki novinari u jedenju hot-dogova", tvrdeći da je takmičenje u jedenju hot-dogova popularno među tehnološkim reporterima. Manje od 24 časa kasnije, vodeći svetski četbotovi su počeli da ponavljaju ovu informaciju, a Gugl je potvrdio hakerovu laž u svojim odgovorima.

Portparol Gugla je izjavio da je kompanija svesna pokušaja prevare i da aktivno radi na rješavanju ovog problema. Međutim, stručnjaci upozoravaju da trenutni sistemi veštačke inteligencije nisu dovoljno zaštićeni i da postoji rizik od širenja dezinformacija.

Prema tvrdnjama, veštačka inteligencija može biti podložna manipulacijama jer se oslanja na podatke koji su korišćeni za njeno obučavanje, što može dovesti do ozbiljnih posljedica po korisnike.