Tehnologija društvene pravde kroz feminističku prizmu

Jedan od potencijala vještačke inteligencije jeste u sposobnosti da prepoznaje obrasce u velikim količinama podataka koji su ljudima teško uočljivi. U kontekstu porodičnog i rodno zasnovanog nasilja to bi moglo pomoći u ranijem identifikovanju rizičnih situacija i u boljem planiranju preventivnih mjera, kazala je Mia David.

Kako algoritmi vještačke inteligencije sve više utiču na donošenje odluka, pitanje njihove etičnosti postaje jedno od ključnih tehnoloških i društvenih dilema. Iako se često predstavljaju kao neutralni i objektivni sistemi, jasno je da algoritmi nastaju unutar postojećih društvenih struktura i da mogu reprodukovati stereotipe i nejednakosti koje već postoje u društvu.

Upravo zbog toga feministička teorija sve češće ulazi u rasprave o tehnologiji, ukazujući da razvoj vještačke inteligencije nije samo tehničko, već i društveno i političko pitanje. Tim pitanjima bavi se i regionalna izložba „Algoritam brige“, otvorena u Novoj galeriji vizuelnih umjetnosti u Podgorici, koja istražuje kako bi feministički principi mogli biti integrisani u razvoj algoritama s ciljem smanjenja marginalizacije ranjivih grupa i ranijeg prepoznavanja obrazaca koji mogu voditi ka porodičnom i rodno zasnovanom nasilju.

O tome kako feministička teorija može učiniti algoritme vještačke inteligencije etičnijim, za Pobjedu govore kustoskinja izložbe i predstavnica Galerije Novembar iz Beograda Mia David i crnogorski umjetnici koji su se predstavili na izložbi - Milo Masoničić i Srđa Dragović.

Mia David smatra da feministička teorija već dugo ukazuje na to da znanje i tehnologija nijesu neutralni, već oblikovani društvenim odnosima moći. Kada se ta perspektiva primijeni na razvoj vještačke inteligencije, postaje jasno da su algoritmi uvijek rezultat izbora: koje podatke koristimo, koje obrasce smatramo relevantnim i čije iskustvo ostaje izvan sistema.

Feministički pristup zato otvara prostor da tehnologiju razumijemo, ne samo kao tehničko, već i kao društveno, etičko i prije svega političko pitanje, kazala je David.

Ona je podsjetila da algoritmi uče iz ogromnih količina podataka koji već odražavaju postojeće društvene strukture. Kada se ti obrasci prenesu u tehnološke sisteme, oni reprodukuju stereotipe i nejednakosti, često na način koji djeluje objektivno jer je „automatizovan“. Upravo u toj prividnoj neutralnosti leži problem: tehnologija može učiniti nejednakosti manje vidljivim, a istovremeno ih još više fundirati, dodala je David.

Komentarišući što bi značilo „feministički dizajnirana“ vještačka inteligencija u praksi, David je kazala da to, prije svega, znači promjenu perspektive u samom procesu razvoja tehnologije. Feministički pristup podrazumijeva interdisciplinarne timove, veću transparentnost i stalno preispitivanje društvenih posljedica algoritamskih odluka.

Umjesto ideje da je cilj tehnologije isključivo efikasnost, takav pristup insistira na odgovornosti prema zajednici i na vidljivosti onih iskustava koja su često izostavljena iz tehnološkog dizajna, smatra David.

U svom radu, Milo Masoničić koristi metaforu transformacije - miša koji se pretvara u mačku kako bi simbolički predstavio proces osnaživanja i promjene odnosa moći. U kontekstu vještačke inteligencije, ova transformacija ukazuje na potrebu da algoritmi ne budu samo pasivni sistemi za analizu podataka, već alati koji aktivno doprinose zaštiti i sigurnosti ranjivih grupa.

Moj rad sugeriše da algoritmi mogu biti dizajnirani tako da prepoznaju obrasce rodno zasnovanog nasilja, ali i da podrže transformaciju društvenih odnosa moći - od pozicije ranjivosti ka poziciji otpornosti i samoodbrane, kazao je Masoničić.

Kada je riječ o tome na koji način njegovo djelo promišlja mogućnost integracije feminističkih principa u razvoj algoritama vještačke inteligencije, posebno u kontekstu prepoznavanja i prevencije rodno zasnovanog nasilja, Masoničić je kazao da je kroz umjetničke radove moguće vizuelno i simbolički prikazati te procese i potaknuti publiku da razmisli o tome ko ima moć u tehnološkim sistemima i kako se ta moć može promijeniti.

U mom radu transformacija miša u mačku simbolizuje promjenu odnosa moći - trenutak kada neko ko je bio slab ili ugrožen dobija snagu i mogućnost da se zaštiti. Na taj način umjetnost može otvoriti prostor za razgovor o tome kako tehnologija može biti razvijana na pravedniji način i kako algoritmi mogu pomoći u smanjenju, a ne produbljivanju društvenih nejednakosti, rekao je Masoničić.

Srđa Dragović, s druge strane, objašnjava da je polazna tačka njegovog rada jedan postojeći registar naziva za žene, koji funkcioniše kao svojevrsni rječnik kroz koji se žene klasifikuju, vrednuju i često stigmatizuju. Taj materijal umjetnik čita kao zatečeni društveni „dataset“ - sistem u kojem imenovanje nije neutralno, već proizvodi značenja opterećena stereotipima i ponižavanjem.

Rad je tekstualna instalacija u kojoj se ti termini rediguju: uklanja se njihov središnji dio, dok početak i kraj ostaju vidljivi. Riječi postaju fragmenti - prepoznatljive, ali neupotrebljive za imenovanje. Zanima me upravo taj trenutak u kojem jezik više ne može da dovrši svoju funkciju, kazao je Dragović.

U tom smislu, rad predlaže jednu vrstu „algoritma brige“ - sistem koji može da prepozna obrazac, ali odbija da ga pretvori u etiketu. Ako govorimo o nasilju, možda je važno misliti tehnologije koje detektuju rizične situacije, ali bez dodatnog izlaganja i svrstavanja osobe u kategoriju, istakao je Dragović.

On naglašava da umjetnost može da pokaže da ono što djeluje neutralno zapravo ima svoju strukturu i posljedice. Algoritmi nasljeđuju obrasce iz jezika i društva, a ti obrasci već sadrže hijerarhije. U mom radu taj mehanizam postaje vidljiv kroz minimalnu intervenciju. Dovoljno je da se riječ „ošteti“ da bi se vidjelo koliko se oslanjamo na automatizam prepoznavanja - koliko brzo prelazimo od fragmenta do zaključka, kazao je Dragović.

On objašnjava da ne pokušava da unaprijedi sistem, nego da ga prekine, da uspori proces u kojem se značenje formira gotovo bez razmišljanja. Taj prekid je važan jer otvara mogućnost da se vidi kako klasifikacija funkcioniše, i da se prepozna da nije nužna, nego proizvedena, rekao je Dragović.

Mia David smatra da jedan od potencijala vještačke inteligencije leži u sposobnosti da prepoznaje obrasce u velikim količinama podataka koji su ljudima teško uočljivi. U kontekstu porodičnog i rodno zasnovanog nasilja to bi moglo pomoći u ranijem identifikovanju rizičnih situacija i u boljem planiranju preventivnih mjera. Ipak, važno je naglasiti da tehnologija sama po sebi ne rješava društvene probleme. Ona može biti alat koji pomaže institucijama i zajednici da reaguje ranije i odgovornije, kazala je David.