UN upozorava na opasnosti autonomnog oružja zasnovanog na AI

U trenutku kada se svijet suočava sa porastom autonomnog oružja, čelnici UN-a upozorili su na potrebu hitne regulacije. Generalni sekretar Ujedinjenih nacija Antonio Gutiereš i predsjednica Međunarodnog komiteta Crvenog krsta Mirjana Špoljarić Eger naglasili su da autonomno oružje koje može ubijati bez ljudske kontrole predstavlja ozbiljnu prijetnju.

Na sastanku održanom prošlog utorka, pozvali su na hitne pregovore kako bi se usvojio pravno obavezujući instrument koji bi regulisao autonomne sisteme naoružanja, ističući da smo opasno blizu moralne crvene linije. „Pregovori moraju početi odmah kako bi se usvojile jasne zabrane i ograničenja“, poručili su.

Planiran sastanak u Ženevi, koji će se održati u novembru, ima za cilj razmatranje novih pravila u vezi sa poluautonomnim oružjem podržanim vještačkom inteligencijom. Ovaj sastanak dolazi nakon zajedničkog apela koji su UN i Crveni krst uputili 2023. godine, tražeći od država da do 2026. godine pregovaraju o pravno obavezujućem instrumentu.

Smrtonosni autonomni sistemi naoružanja definišu se kao sistemi koji biraju mete i primjenjuju silu bez ljudskog učešća. Iako su neke vojske već počele koristiti takvo oružje, poput protivraketnih sistema, dosadašnja upotreba protiv ljudi nije potvrđena.

U medijima se pojavila informacija da je oružje unaprijeđeno AI-em korišćeno u sukobima u Ukrajini i drugim regijama, ali nema dokaza o autonomnom odlučivanju o metama. Organizacije za ljudska prava upozoravaju na nepredvidivost i potencijalne smrtonosne greške sistema koje vodi vještačka inteligencija.

„Neke odluke moraju zauvijek ostati u rukama ljudi, a nijedna nije važnija od odluke o oduzimanju života“, izjavila je Karolin Melani Režimbal iz Kancelarije UN-a za pitanja razoružanja. Unatoč saglasnosti da se međunarodno humanitarno pravo primjenjuje na autonomne sisteme, posebni međunarodni standardi praktično ne postoje.

Razgovori u Ženevi odvijaju se u teškim geopolitičkim okolnostima, što dodatno komplikuje situaciju. Iako su započeti 2014. godine, napredak je ograničen zbog brzog tehnološkog razvoja i rastuće opasnosti. „Trka ka sve većoj autonomiji oružanih sistema već je uveliko u toku“, upozorili su Gutiereš i Špoljarić, pozivajući na hitnu političku hrabrost i akciju kako bi se spriječile katastrofalne posljedice po ljudske živote.