Deset odsto šansi da vještačka inteligencija pobije sve ljude u narednih deset godina

Veštačka inteligencija (AI) se razvija toliko brzo da postoji više od deset odsto šansi da bi u narednih deset godina mogla da pobije sve ljude, upozorio je Evan Hubinger, stručnjak američke kompanije Antropik. On smatra da je rizik trenutno mali, ali je istovremeno zabrinut da bi ta tehnologija mogla postati egzistencijalna pretnja po čovečanstvo.

Hubinger se oglasio kao odgovor na objavu istraživača vještačke inteligencije Džejkoba Koksona, koji je nedavno napustio Antropik, a prethodno radio u OpenAI. Kokson je izjavio da nijedna od te dve kompanije ne postupa odgovorno i upozorio na mogućnost da uskoro dobijemo sisteme nadljudskih sposobnosti koji mogu da izmene bilo koju oblast i steknu stvarnu moć.

Vendi Hol, naučnica koja savetuje Ujedinjene nacije o pitanjima veštačke inteligencije, izjavila je da su je Hubingerove i Koksonove objave na društvenim mrežama šokirale, naglašavajući da bi deo izjava mogao biti PR i marketing, ali je i dalje zabrinuta zbog potencijalnih rizika.

U međuvremenu, kompanija Antropik je uskratila najnoviji model britanskom Institutu za bezbednost veštačke inteligencije (AISI), dok portparol britanske vlade nije želeo da komentariše situaciju. Hubinger ističe da još nemamo plan kako da rešimo problem usklađivanja superinteligencije sa ljudskim vrednostima.

On se bavi AI usklađivanjem, pokušavajući da ugrade ljudske etičke ideje i principe u tehnologiju, ali mnogi istraživači smatraju da ti pokušaji deluju neuspešno. U izveštaju o bezbednosti, Antropik je naveo da postoji mali rizik da njihovi modeli postanu neusklađeni sa ciljevima moćne organizacije.

Čelnici OpenAI i Antropika govore o bezbednosnim pretnjama koje nosi veštačka inteligencija, dok se sve više istaknutih ličnosti u ovoj oblasti zalaže za usporavanje razvoja AI-ja. U otvorenom pismu, 1.300 zaposlenih iz kompanija koje se bave AI-jem pozvali su američku vladu da podrži međunarodne napore na razvoju mehanizama za upravljanje razvojem veštačke inteligencije.