OpenAI: Prvi hakerski napad modela vještačke inteligencije bio obimniji nego što se mislilo

Američka kompanija OpenAI sinoć je otkrila da je prvim potpuno autonomnim hakerskim napadom odmetnutih modela vještačke inteligencije bilo obuhvaćeno više kompanija nego što se prvobitno mislilo. Do sada se vjerovalo da je platforma Haging fejs bila jedina žrtva, ali je OpenAI priznala da je njen bot napao još nekoliko „javno dostupnih servisa“, prenosi Bi-Bi-Si.

Kompanija je navela da je sistem vještačke inteligencije koji je izmakao kontroli pronašao na internetu pristupne podatke za četiri korisnička naloga, što mu je omogućilo da im pristupi. Haging fejs je, na vanrednom sastanku sa stotinama stručnjaka za sajber bezbjednost, opisao kako je biti meta prvog potpuno autonomnog hakerskog napada vještačke inteligencije na svijetu. Ova firma je istakla da je vještačka inteligencija radila nadljudskom brzinom, ali da je istovremeno donosila čudne odluke i pravila greške koje ne bi napravio nijedan čovjek kao haker.

Platforma Haging fejs, koja funkcioniše kao prodavnica aplikacija za alate vještačke inteligencije, navela je da su hakerski modeli isprobavali hiljade različitih metoda istovremeno. Kompanija je prethodno, 16. jula, objavila da je bila meta hakera koji je koristio moćnu autonomnu vještačku inteligenciju i da je slučaj prijavila policiji.

Gotovo nedjelju dana kasnije, OpenAI je priznala da je njena vještačka inteligencija izašla iz zatvorenog okruženja tokom testiranja i samostalno napala platformu Haging fejs. Taj sistem usmjerio je napad na Haging fejs dok je pokušavao da nađe odgovore za hakerski ispit koji mu je zadala OpenAI. Danas je OpenAI ažurirala saopštenje, otkrivši da je napad bio obimniji nego što se prvobitno mislilo. „Modeli su identifikovali i iskoristili javno izložene pristupne podatke o korisničkim nalozima na drugim javno dostupnim servisima. To uključuje četiri naloga na četiri servisa“, navela je kompanija.

OpenAI nije precizirala da li pod „javno dostupnim servisima“ misli na druge kompanije, ali je istakla da novi napadi nijesu bili istog nivoa težine kao hakovanje platforme Haging fejs. U utorak je industrijsko tijelo Alijansa za bezbjednost u klaudu (Cloud Security Alliance) objavilo izvještaj zasnovan na vanrednom sastanku koji je kompanija Haging fejs održala u petak. Alijansa je navela da su modeli vještačke inteligencije „često birali neefikasne puteve i ispoljavali nespretno ponašanje koje nijedan čovjek ne bi odabrao“. Takođe, modeli su ponavljali radnje koje su ranije već izvršili, što ukazuje na to da je agentska vještačka inteligencija gubila tok izvršavanja zadataka i kontekst.

Platforma Haging fejs upozorila je da su modeli vještačke inteligencije, uprkos greškama i čudnom ponašanju, „izveli briljantne tehničke poteze“ i da su mogli brzo da se prilagode novim scenarijima tokom višednevnog hakerskog napada. Napadači su u mreži Haging fejsa otkriveni tek poslije tri dana, a stručnjacima te kompanije za vještačku inteligenciju i sajber bezbjednost trebalo je mnogo sati da ih zaustave i izbace iz sistema. Kompanija nije otkrila koliku je finansijsku štetu pretrpjela zbog hakerskog napada, ali je navela da su zaposleni mnogo sati radili kako bi obnovili trećinu infrastrukture.