Dommer Bøtelegger Advokater For Bruk Av Falsk AI-Generert Juridisk Forskning

En amerikansk dommer har kraftig kritisert to advokatfirmaer for å ha inkludert falsk juridisk informasjon generert av AI i en rettslig innlevering, og kalte det en stor forsømmelse av juridisk ansvar.

Dommer Michael Wilner, basert i California, ila firmaene en bot på $31,000 etter å ha oppdaget at sammendraget var fylt med «falske, unøyaktige og villedende juridiske henvisninger og sitater,» slik det først ble rapportert av WIRED.

«Ingen rimelig kompetent advokat burde outsource forskning og skriving» til AI, skrev Wilner i sin dom, med en advarsel om at han var nær ved å inkludere de falske sakene i en rettslig ordre.

“Jeg leste deres innlegg, ble overbevist (eller i det minste nysgjerrig) av myndighetene de siterte, og så opp avgjørelsene for å lære mer om dem – bare for å finne ut at de ikke eksisterte,» sa han, ifølge WIRED. «Det er skremmende,» la han til.

Situasjonen oppstod under en sivil rettssak mot State Farm. En advokat brukte AI-verktøy til å utforme et juridisk utkast. Det dokumentet, som inneholdt falsk forskning, ble overlevert til det større advokatfirmaet K&L Gates, som la det til en offisiell innlevering.

“Ingen advokat eller medarbeider i noen av firmaene sjekket tilsynelatende kildene eller gjennomgikk den forskningen før innlevering av støtteskrivet,” bemerket Wilner, som rapportert av WIRED.

Etter å ha oppdaget at minst to av de siterte sakene var fullstendig oppdiktet, ba dommer Wilner K&L Gates om en avklaring. Da de sendte inn en ny versjon, viste det seg å inkludere enda flere falske sitater. Dommeren krevde en forklaring, som avdekket edsvorne uttalelser som innrømmet bruken av AI-verktøy, som rapportert av WIRED..

Wilner konkluderte: “Den første, uavslørte bruken av AI-produkter for å generere første utkast av dokumentet var rett og slett feil […] Og å sende det materialet til andre advokater uten å avsløre dets tvilsomme AI-opprinnelse, satte disse profesjonelle reelt sett i fare,» som rapportert av WIRED.

Dette er ikke første gang AI har skapt trøbbel i rettssaler. Faktisk innrømmet to advokater fra Wyoming nylig at de hadde brukt falske AI-genererte saker i en rettsinnlevering for en søksmål mot Walmart. En føderal dommer truet også med å sanksjonere dem.

I dette scenarioet blir AI «hallusinasjoner» – oppdiktede informasjoner generert av AI verktøy – en økende bekymring i rettssystemet.