Një rast në Gjykatën e Apelit të Georgias ka nxjerrë në pah një shqetësim serioz: “halucinacionet” e krijuara nga inteligjenca artificiale po depërtojnë në sistemin gjyqësor amerikan. Në një proces divorci, avokati i bashkëshortit dorëzoi një urdhër gjyqësor me citime ligjore të rreme, të krijuara me shumë gjasë nga mjete si ChatGPT. Gjykata e shkallës së parë e miratoi dokumentin dhe vendosi në favor të burrit. Vetëm gjatë apelimit u zbulua mashtrimi. Gjykata e Apelit anuloi vendimin dhe gjobiti avokatin me $2,500, duke paralajmëruar për rrezikun që sjell AI.
Ky nuk është rast i izoluar. Në shkurt, një avokat tjetër u gjobit me $15,000 për një situatë të ngjashme. Ekspertët ligjorë paralajmërojnë se raste të tilla do të bëhen më të shpeshta, pasi shumë avokatë dhe qytetarë të vetë-përfaqësuar po përdorin mjete AI që shpikin “fakte” të rreme, por bindëse në pamje të parë.
Sistemi gjyqësor amerikan është tashmë i mbingarkuar dhe shpesh gjykatësit miratojnë urdhra të hartuar nga avokatët pa i shqyrtuar në detaje. Ish-gjykatësi i apelit në Teksas, John Browning, paralajmëron se gabime të tilla do të shtohen dhe vetëm dy shtete – Michigan dhe Virginia Perëndimore – kërkojnë që gjykatësit të kenë njohuri teknologjike për AI-në.
Disa gjykatës e kanë ndaluar përdorimin e AI ose kërkojnë deklarim të tij, por rregullat janë të copëzuara dhe të vështira për t’u zbatuar. Mjetet AI shpesh krijojnë emra realë gjykatash dhe citime që duken të vërteta. Ekspertët propozojnë përdorimin e mjeteve për verifikimin e citimeve dhe sisteme shpërblimi për ata që zbulojnë falsifikime.
Rasti i Georgias shërben si një paralajmërim: përdorimi i pakontrolluar i AI në drejtësi rrezikon të dëmtojë besimin publik në sistemin gjyqësor.
