Evropska komisija pokrenula istragu protiv platforme X zbog eksplicitnog sadržaja

Evropska komisija je pokrenula istragu protiv platforme X Ilona Maska zbog zabrinutosti da je njen AI alat Grok korišćen za kreiranje seksualizovanih slika stvarnih osoba. Ova odluka dolazi nakon slične najave britanskog regulatora Ofcom u januaru.

Poslanica Evropskog parlamenta iz Irske, Regina Doerti, kazala je da će Komisija procijeniti da li su korisnicima u EU prikazivane „manipulisane seksualno eksplicitne slike“. U ranijem saopštenju X-ovog naloga za bezbjednost navedeno je da je društvena mreža zaustavila Grok u digitalnom mijenjanju fotografija ljudi kako bi im se uklanjala odjeća u „jurisdikcijama gdje je takav sadržaj ilegalan“.

Međutim, aktivisti i žrtve navode da mogućnost generisanja seksualno eksplicitnih slika pomoću tog alata „nikada nije smjela da se desi“, dok je Ofcom saopštio da će njihova istraga ostati u toku. Regulator EU je naveo da bi mogao „uvesti privremene mjere“ ukoliko X odbije da sprovede suštinske izmjene.

Osim toga, saopšteno je da je proširena i istraga pokrenuta u decembru 2023. godine, koja se odnosi na rizike povezane sa X-ovim sistemima preporuka – algoritmima koji korisnicima predlažu određene objave. Prije objave Komisije, Mask je na platformi X objavio fotografiju koja je, kako se čini, ismijavala nove restrikcije uvedene u vezi sa Grokom.

Vlasnik X-a je ranije kritikovao one koji preispituju funkciju za uređivanje slika na aplikaciji – naročito britansku Vladu – nazivajući to „bilo kakvim izgovorom za cenzuru“. U nedjelju je Grok nalog na platformi X tvrdio da je alat generisao više od 5,5 milijardi slika za samo 30 dana.

U izjavi za Reuters, Doerti je rekla da postoje „ozbiljna pitanja“ o tome da li platforme poput X-a ispunjavaju zakonske obaveze „da pravilno procijene rizike i spriječe širenje ilegalnog i štetnog sadržaja“. „Evropska unija ima jasna pravila za zaštitu ljudi na internetu. Ta pravila moraju imati stvarno značenje u praksi, posebno kada se moćne tehnologije koriste u velikim razmjerama. Nijedna kompanija koja posluje u EU nije iznad zakona,” kazala je ona.

Portparol irskog regulatora za medije, Coimisiún na Meán, rekao je da pozdravljaju ovu vijest. „U našem društvu nema mjesta za zloupotrebu intimnih snimaka bez pristanka ili za materijal koji predstavlja seksualno zlostavljanje djece,” kazali su.

Ovaj potez dolazi mjesec dana nakon što je EU kaznila X sa 120 miliona eura (105 miliona funti) zbog plavih verifikacionih oznaka, navodeći da one „obmanjuju korisnike“ jer kompanija „ne vrši suštinsku provjeru“ identiteta vlasnika naloga. Kao odgovor, američki državni sekretar Marko Rubio i Federalna komisija za komunikacije (FCC) optužili su regulatora EU za napade i cenzuru američkih kompanija.