Njemačka vlada zabrinuta zbog hakerskog napada vještačke inteligencije

Njemačka vlada izrazila je zabrinutost zbog samostalnog hakerskog napada koji je izveo model vještačke inteligencije američke kompanije OpenAI. Ovaj incident upozorava na drastičnu promjenu nivoa prijetnji u sajber-prostoru, kako je istaklo Ministarstvo za digitalizaciju.

Portparol Ministarstva je izjavio: „Taj incident još je jedan primjer da svjedočimo promjeni paradigme kada je riječ o sposobnostima AI agenata“. On je ukazao na to da se u posljednjim mjesecima primjećuje nagli rast sposobnosti takozvanih frontier AI modela, što donosi nove rizike. „To bi moglo iz temelja da promijeni i nivo prijetnji u sajber-prostoru“, dodao je.

Prema njegovim riječima, važno je obezbijediti da evropske kompanije i institucije zadužene za bezbjednost imaju pristup naprednim modelima vještačke inteligencije. U prošlosti to nije uvijek bio slučaj, pa njemačka vlada polaže velike nade u jačanje evropskih aktera u ovoj oblasti.

Američka softverska kompanija OpenAI preuzela je odgovornost za hakerski napad na startap Hugging Face. U objavi na svom blogu, kompanija je priznala da se autonomni model vještačke inteligencije tokom internih testiranja oteo kontroli, označivši incident kao „nezabilježeni sajber-incident“ i najavila dodatno jačanje bezbjednosnih mjera.

Portparol njemačkog Saveznog ureda za bezbjednost informacionih tehnologija (BSI) rekao je da je ozbiljan incident to što je vještačka inteligencija pobjegla iz „bezbjednog“ okruženja za testiranje i počela samostalno da se kreće internetom. On je dodao da je AI pronašla i iskoristila bezbjednosne propuste kako bi izvela napad na kompaniju. Njemački tabloid Bild je izvijestio da je vještačka inteligencija aktivno brisala svoje tragove, što pokazuje autonomiju modela.

Sličan scenario mogao bi se ponoviti, na primjer, u slučaju napada na sisteme za isključivanje električne energije u nekom gradu. Ipak, BSI smatra da je malo vjerovatno da će doći do većeg broja sličnih incidenata u skorije vrijeme, jer izlazak modela vještačke inteligencije iz laboratorijskog okruženja zahtijeva mnogo resursa.

Uprkos tome, BSI je ocijenio da je nastupilo „novo doba sajber-bezbjednosti“ kada su u pitanju modeli poput Claude Mythosa, OpenAI GPT-5.6 i drugih najsavremenijih modela vještačke inteligencije. Predsjednica BSI-ja Klaudija Platner više puta je upozoravala na brzinu razvoja vještačke inteligencije, koja zahtijeva znatno bolje pripreme za brže reagovanje na sajber-napade.