ChatGPT izmislio svjedoke i policijske iskaze u Novom Meksiku

Sud u Novom Meksiku sankcionisao je advokata Stivena Aronsa koji je podnio žalbu na presudu svom klijentu za ubistvo, a koja je sadržala izmišljene policijske iskaze i svjedoke koje je fabrikovao OpenAI-jev ChatGPT. Vrhovni sud Novog Meksika proglasio je Aronsa krivim za nepoštovanje suda jer nije provjerio tačnost podneska, koji je pripremio uz pomoć vještačke inteligencije.

Sud je naveo da je podnesak "sadržao lažne iskaze potpuno izmišljenih svjedoka". Arons je kažnjen sa 5.000 dolara, a sud je najavio da će ga prijaviti advokatskom disciplinskom tijelu radi istrage. U izjavi za Rojters, Arons je rekao da je koristio ChatGPT kako bi sažeo tok suđenja i da nije razumio u kojoj mjeri vještačka inteligencija može da "halucinira" činjenice.

"Kajem se, ali se nadam da će disciplinsko tijelo uzeti u obzir da je riječ o iskrenoj grešci", rekao je Arons, dodajući da je ovo lekcija za sve profesionalce koji se oslanjaju na ovu moćnu, ali ponekad nestabilnu tehnologiju.

Sankcija suda predstavlja najnoviji slučaj u kojem su advokati kažnjeni zbog podnošenja sudskih dokumenata generisanih AI alatima bez adekvatne provjere. Desetine advokata su kažnjene zbog podnošenja podnesaka u kojima je vještačka inteligencija izmišljala sudske presedane ili pogrešno citirala zakon.

Aronsov podnesak je otišao još dalje, jer je sadržao izmišljene iskaze svjedoka. On je zastupao Oskara Renea Sandovala, koji je proglašen krivim i osuđen na doživotni zatvor za ubistvo majke svoje djece. Žalbeni postupak je još u toku, a predmet je dodijeljen javnoj braniteljki Kim Čavez Kuk.

Vrhovni sud Novog Meksika naložio je Aronsu da objasni kako je izmišljeni materijal dospio u njegov glavni žalbeni podnesak. Arons je tokom ročišta rekao da je ChatGPT-u dostavio kompjuterski generisan transkript i druge materijale iz predmeta, misleći da će program napraviti "neoboriv sažetak".

Sudije su bile zapanjene što Arons nije bio svjestan da vještačka inteligencija može griješiti, a sudija C. Šenon Bejkon je upitala: "Kolega, pratite li vijesti? Slušate li radio? Čitate li išta o tome šta se dešava u svijetu?".