Odvjetnik jurio kolegu hodnikom suda zbog izmišljenih presedana koje je AI ubacio u podnesak State Farma

Odvjetnik je hodnikom suda jurio kolegu i tražio popis. Na popisu su bile sudske presude koje ne postoje.

Prizor se dogodio 7. kolovoza u zgradi Vrhovnog suda okruga Los Angeles. Prema pisanju CalMattersa, odvjetnik osiguravajuće kuće State Farm, vidno bijesan, pratio je kolegu s druge strane spora niz hodnik i ponavljao da mu pokaže dokaze. Dan ranije, na ročištu, taj je kolega sudu predočio što je pronašao u podnescima koje je State Farmov tim sastavio: presedane koji ne postoje, citate koji ne postoje, pravna stajališta izmišljena od početka do kraja. Sve je to već bilo predano sucu kao službeni dokument obrane.

Slučaj sam po sebi nije velika vijest, radi se o sporu oko obnove kuće nakon požara. Fa'alagilagi Meni-Siliga tuži State Farm i još nekoliko strana jer joj, tvrdi, obnova kuće u losanđeleskom naselju Carson nakon požara iz 2020. nikad nije dovršena, dijelom zbog kašnjenja u odobrenju popravaka. Tužbu je podnijela u srpnju 2024. Ono što slučaj čini vijestom jest ono što se dogodilo u kolovozu 2026: njezin odvjetnik Eric Khodadian sudu je dokazao da obrana citira sudsku praksu koja fizički ne postoji.

Odgovorni odvjetnik obrane, Kenneth Katel iz odvjetničkog društva Musick, Peeler & Garrett, nije to osporio. Javno se ispričao i sudu i tužiteljici. Priznao je da mu je kolegica iz tima rekla da je za dio podnesaka koristila AI alat, da on osobno za to nije znao, ali da kao vodeći odvjetnik na slučaju preuzima punu odgovornost. Rekao je i da je ured u međuvremenu promijenio internu politiku korištenja AI-ja, bez detalja o tome što se točno mijenja. To je njegova tvrdnja, sudu iznesena kao objašnjenje, ne nezavisno potvrđena činjenica o tome koliko je ured doista promijenio praksu.

Ovo nije izoliran ispad nego simptom nečeg puno raširenijeg. Daniel Ho, profesor prava na Stanfordu koji prati problem AI halucinacija u pravnim spisima, navodi da danas generativni AI koristi oko 41 posto odvjetničkih ureda i 47 posto pravnih odjela unutar tvrtki. Što više ljudi AI koristi za pisanje službenih dokumenata, to je veća vjerojatnost da će se izmišljen citat provući do suca, klijenta ili poslovnog partnera, jer ga nitko u lancu nije stigao ili se sjetio provjeriti.

I tu je razlika između ovog slučaja i stotina sličnih koje smo do sada gledali kao daleku vijest iz svijeta odvjetništva. Nije važno pišete li tužbu, ponudu klijentu, izvještaj upravi ili ugovor s dobavljačem: čim AI u tekst ubaci konkretan izvor, poziva se na zakon, presedan, studiju ili tuđu izjavu, taj dio teksta prestaje biti nešto što možete prihvatiti na povjerenje. Evo provjere koja iz ovoga proizlazi i koju možete napraviti sami, na vlastitom dokumentu, za manje od minute: kad vam AI navede izvor, ne kopirajte ga izravno u dokument. Tražite od njega doslovan naziv, broj ili poveznicu tog izvora, pa ga sami potražite, u Narodnim novinama, sudskom registru, bazi znanstvenih radova ili običnim Googleom. Ako izvor ne postoji ili ne kaže ono što AI tvrdi da kaže, taj citat ne smije ostati u dokumentu, bez obzira koliko uvjerljivo zvučao.

Katel je vjerovao vlastitom timu, a njegov je tim vjerovao AI-ju. Sudac to više neće morati vjerovati nikome, jer sad ima popis.

Cijela metoda ovakve provjere, ne samo prvo poglavlje, besplatno stoji na savladaj.ai/knjiga