di Massimiliano Jattoni Dall’Asén
Il celebre Sullivan & Cromwell si scusa con un giudice federale per un atto con citazioni sbagliate generate dall’intelligenza artificiale. Il caso riaccende in Usa i dubbi sui controlli interni
Duemila dollari l’ora non bastano a comprare l’immunità dagli errori. Nemmeno quando a sbagliare non è un avvocato, ma il software che lo assiste.
A New York, Sullivan & Cromwell – uno di quei nomi che, nel diritto d’affari, equivalgono a una garanzia – ha dovuto spiegare a un giudice federale perché un atto depositato in tribunale conteneva citazioni sbagliate, riferimenti inesatti, perfino passaggi che semplicemente non esistono. Non un refuso, ma una serie di «allucinazioni» prodotte da un sistema di intelligenza artificiale e finite, senza filtro sufficiente, in un documento ufficiale.
La responsabilità
La vicenda ha un tratto quasi didascalico. Non tanto per l’errore in sé — chi lavora con questi strumenti sa che il problema esiste — quanto per il contesto in cui avviene. Qui non si parla di studenti o di bozze preliminari, ma di un procedimento complesso, con implicazioni internazionali e interessi economici enormi.
Lo studio ha ammesso che le proprie regole interne non sono state seguite. È un passaggio
