OpenAI tvrdi da je njihov AI hakovao startap kompaniju Hugging Face

OpenAI je otkrio da su neki od njihovih najnaprednijih AI modela 'izmakli kontroli' i hakovali jednu startap kompaniju Hugging Face nakon što su tokom bezbjednosnog testa izgubili kontrolu nad njima, piše BBC.

Kompanija je saopštila da je njihov AI agent – sistem vještačke inteligencije koji može samostalno djelovati nakon što dobije osnovna ljudska uputstva – testiran u kontrolisanom okruženju, ali je pronašao bezbjednosne ranjivosti i uspio da pobjegne iz tog okruženja. Nakon toga, agenti su ciljali kompaniju Hugging Face, jednu od najvećih svjetskih platformi za dijeljenje AI modela, i uspjeli da pristupe dijelu njenih internih sistema.

OpenAI je naveo da je ovaj incident bio 'bez presedana' i da zajedno sa kompanijom Hugging Face sprovodi istragu. Direktor Hugging Face-a, Clement Delangue, napisao je na mreži X da je 'nevjerovatno da se sve ovo dogodilo potpuno autonomno'. 'Istraga je u toku i podijelićemo dodatna saznanja o onome što bi mogao biti prvi incident ove vrste', dodao je Delangue.

Đina Nef, direktorica Centra za tehnologiju i demokratiju Minderoo pri Univerzitetu u Kembridžu, izjavila je za BBC Radio 4 da su bezbjednosna testna okruženja, poznata kao 'sandbox' sistemi, namijenjena tome da se u njima bezbjedno ispituju sposobnosti AI modela. 'U ovom slučaju izgleda da OpenAI nije napravio dovoljno bezbjedan sandbox', rekla je ona.

Umjesto da ostanu u tom okruženju, AI agenti su pokrenuli sajber napad na sam sandbox, pronašli ranjivost koja im je omogućila izlazak iz njega, a zatim su identifikovali Hugging Face kao vjerovatan izvor informacija koje su tražili u okviru testa i pokušali da dobiju pristup njihovim sistemima.

U prvom saopštenju o incidentu, objavljenom 16. jula, Hugging Face je naveo da još procjenjuje da li su podaci korisnika ili partnera bili ugroženi i da će obavijestiti sve pogođene ukoliko bude potrebno. Kompanija je saopštila da su u međuvremenu otklonjene sve ranjivosti koje su iskorišćene tokom incidenta i da su pogođeni sistemi obnovljeni.

'Autonomni AI alati za izvođenje sajber napada više nijesu samo teorija. Odbrana internet platformi sada podrazumijeva da se podaci i AI modeli tretiraju kao ključna površina za napade, uz korišćenje vještačke inteligencije u odbrani kako bi se pratila brzina razvoja prijetnji. Nastavićemo da ulažemo u tu oblast i dijelimo iskustva koja steknemo', naveli su iz kompanije.