Fotografijama djece više nije mjesto na internetu

Britanske agencije upozoravaju roditelje da ograniče vidljivost porodičnih slika jer ih kriminalci sve češće koriste za stvaranje lažnog seksualno eksplicitnog sadržaja. Ovi savjeti dolaze usljed sve većeg korišćenja AI alata od strane predatora koji manipulišu fotografijama djece.

Dvije fotografije, nastale kao tipični tinejdžerski selfiji, postale su osnova za ekstremne pornografske video-snimke nakon što su onlajn predatori došli do njih. Ovi primjeri su zabilježeni putem servisa Report Remove, koji omogućava djeci da prijave i zatraže uklanjanje slika koje su distribuirane bez njihovog pristanka.

Vještačka inteligencija omogućava da neka maloljetna lica postanu žrtve čak i bez ikakvog direktnog kontakta sa kriminalcima. Na osnovu ovih događaja, britanska Nacionalna agencija za kriminal (NCA) i Internet Watch Foundation (IWF) izdale su smjernice za roditelje da razmotre ograničenje vidljivosti porodičnih fotografija, uključujući postavljanje privatnosti na društvenim mrežama.

U smjernicama se preporučuje pregled naloga na društvenim mrežama radi starih fotografija i ponovno razmatranje saglasnosti za korišćenje fotografija sa školama ili sportskim klubovima. Smjernice uključuju tri mjere: provjeru podešavanja privatnosti, pregled ko može da vidi slike djece i otvorene razgovore o dozvolama za objavljivanje slika.

Lorna Sinkler, menadžerka za edukaciju o seksualnom zlostavljanju djece u NCA, ističe da mnogi roditelji nisu svjesni opasnosti. Objavljivanje smjernica dolazi i nakon incidenata u kojima su školski sajtovi u Ujedinjenom Kraljevstvu bili meta ucjenjivača koji su preuzimali fotografije djece i pretvarali ih u materijal seksualnog zlostavljanja.

Podaci pokazuju da je količina materijala seksualnog zlostavljanja djece generisanog vještačkom inteligencijom porasla za 14 odsto u prošloj godini. Den Sekston, glavni direktor za tehnologiju u IWF-u, osjeća se neprijatno dok objašnjava roditeljima da ne objavljuju fotografije djece javno, ali smatra da je to jedina opcija zbog nedovoljne zaštite.

Generalni sekretar Ujedinjenih nacija Antonio Gutereš upozorio je na potrebu za globalno usklađenim pravilima koja bi smanjila rizike, posebno za djecu. On je također naglasio da bi kompanije koje razvijaju AI sisteme trebale dokazati svoju bezbjednost prije nego što postanu dostupni djeci.

Vlada Ujedinjenog Kraljevstva već uvodi zakone koji čine nezakonitim posjedovanje, stvaranje ili distribuciju AI alata namijenjenih generisanju materijala seksualnog zlostavljanja djece. Sekston naglašava da dugoročno rješenje ne može biti samo uklanjanje fotografija, već i kreiranje zakonodavstva koje zahtijeva da AI modeli budu 'bezbjedni po dizajnu'.

IWF ističe da je gotovo nemoguće razlikovati stvarne fotografije seksualnog zlostavljanja djece od onih generisanih vještačkom inteligencijom. Ova situacija otežava vlastima da identifikuju stvarne žrtve.

Lorna Sinkler dodaje da je cilj novih smjernica da upozore roditelje o opasnostima vještačke inteligencije i kako se ona može zloupotrijebiti. Počinioci često koriste tehnološke promjene kao alat za manipulaciju i iskorišćavanje djece.