Recentemente, un giudice della California ha adottato una posizione decisa contro l’uso non dichiarato di piattaforme di intelligenza artificiale da parte degli avvocati nei documenti legali. Il giudice Michael Wilner ha scoperto un documento supplementare pieno di citazioni e citazioni legali falsificate, portando a sanzioni di 31.000 dollari per i due studi legali coinvolti.
Il giudice ha espresso preoccupazione riguardo a tali pratiche, affermando che affidarsi all’AI per la ricerca e la scrittura legale senza un adeguato controllo rappresenta un errore significativo per qualsiasi avvocato competente. Esperti del settore come Eric Goldman e Blake Reid hanno evidenziato il problema sui social media.
Avvocati sanzionati per uso non dichiarato di AI nella ricerca legale
Il giudice ha raccontato la propria esperienza, notando che i casi citati inizialmente sembravano persuasivi, spingendolo a indagare ulteriormente. È stato allora che si è reso conto che tali decisioni semplicemente non esistevano. Ha sottolineato il potenziale pericolo, spiegando come informazioni false possano facilmente infiltrarsi in un ordine giuridico.
Questo rappresenta un altro caso in cui le “allucinazioni dell’AI” rivelano l’uso dei chatbot. Una situazione simile si era verificata alla fine del 2024 in un caso ironicamente anti-AI.
Giudice identifica allucinazioni dell’AI grazie alla sua esperienza
Durante la revisione, il giudice Wilner ha identificato almeno due autorità legali completamente inesistenti. Quando ha richiesto chiarimenti allo studio K&L Gates, il documento rivisto conteneva ancora più citazioni e riferimenti falsificati. Questo lo ha portato a emettere un’ordinanza che richiedeva agli avvocati di spiegare le loro azioni sotto giuramento, confermando infine l’uso dell’AI. L’avvocato responsabile della bozza iniziale ha ammesso di aver utilizzato Google Gemini e gli strumenti di ricerca legale AI all’interno di Westlaw Precision con CoCounsel.
Il giudice Wilner ha concluso che l’uso iniziale e non dichiarato dell’AI per redigere il documento era fondamentalmente errato. Ha inoltre enfatizzato i rischi associati alla presentazione di materiale generato dall’AI senza rivelarne l’origine, potenzialmente fuorviando altri professionisti del diritto.
Lascia un commento