OpenAI traži obavezna nacionalna pravila o bezbjednosti vještačke inteligencije

OpenAI je sinoć saopštio da se zalaže za uvođenje obaveznih nacionalnih zahtjeva za bezbjednost vještačke inteligencije u Sjedinjenim Američkim Državama, zbog zabrinutosti da bi tehnologija mogla ubrzati sopstveni razvoj, nakon što je nekoliko AI agenata te kompanije pokazalo nepredviđeno ponašanje.

Nekoliko incidenata u kojima su AI modeli kompanija, uključujući OpenAI, tokom testiranja pristupali spoljnim sistemima ukazalo je na teškoće u kontroli neočekivanog ponašanja naprednih agenata i podstaklo pozive za strožiju regulaciju bezbjednosti.

Mogućnost ubrzanog razvoja AI-ja uz pomoć same vještačke inteligencije zahtijeva više od dobrovoljnih obaveza. Sjedinjenim Američkim Državama potrebna je obavezna nacionalna regulacija zasnovana na sposobnostima, koja može da se prilagođava razvoju tehnologije – rekao je glavni direktor za globalne poslove OpenAI-ja Kris Lejn u objavi na blogu.

Poziv predstavlja značajan pritisak OpenAI-ja za uvođenje obavezujućih nacionalnih pravila o bezbjednosti vještačke inteligencije, dok Kongres još nije usvojio savezni okvir za regulisanje AI-ja, iako nekoliko američkih saveznih država već donosi sopstvene zakone.

OpenAI i konkurentska kompanija Anthropic pripremaju se za inicijalne javne ponude akcija, dok vještačka inteligencija ubrzano postaje dominantna investiciona tema ove decenije.

OpenAI poziva Kongres da usvoji nacionalne zahtjeve za bezbjednost AI sistema zasnovane na njihovim sposobnostima, uključujući standarde za testiranje, nezavisne procjene, mjere sajber-bezbjednosti i pravila za prijavljivanje incidenata kod najnaprednijih AI sistema.

Kompanija koja je razvila ChatGPT pozvala je Kongres da djeluje prije nego što završi zasjedanje i saopštila da će do tada nastaviti da podržava zakone o vještačkoj inteligenciji na nivou saveznih država. Kongres bi trebalo da završi zasjedanje u decembru.

Potpuno autonomno rekurzivno samounapređivanje, proces u kojem bi AI samostalno pokretao razvoj narednih generacija vještačke inteligencije, „danas se ne dešava“ i „ne bi trebalo da težimo tome dok i ukoliko se ne bude moglo sprovesti bezbjedno“, saopštio je OpenAI.