Un avvocato inventa sentenze tramite IA: il Consejo de Estado di Colombia stabilisce regole etiche e rivela come usare Claude per l'efficienza giudiziaria.

Il 26 maggio 2026, una pratica depositata presso la Sección Tercera del Consejo de Estado de Colombia ha trasformato un errore professionale in un precedente normativo sull'intelligenza artificiale. Un ricorrente ha presentato un recurso extraordinario de unificación de jurisprudencia sostenendo che una decisione precedente avesse ignorato i precedenti del tribunale. Per supportare la tesi, l'avvocato ha citato quattro sentenze del Consejo de Estado, complete di numero di radicado, data, ponente e dottrina. Il problema è che quelle sentenze, esattamente come descritte, non esistevano.

La Relatoría ha proceduto a una verifica sistematica utilizzando sia il motore di ricerca tradizionale che l'archivio interno. I risultati sono stati emblematici: tre dei numeri di radicado citati appartenevano a processi reali, ma i contenuti non avevano alcuna relazione con le tesi del ricorrente. Nello specifico, i casi reali riguardavano una riparazione diretta per privazione ingiusta della libertà, una tutela su un decreto di emergenza sanitaria e una lite sulla restituzione dell'IVA. Il quarto numero di radicado, invece, non è stato rintracciato in alcun archivio; non coincidevano né la data, né il ponente, né la materia.

Analisi strategica: l'impatto dell'IA sull'affidabilità processuale

L'episodio evidenzia un rischio sistemico per il business legale: l'automazione della ricerca senza supervisione umana. Analisi: l'imprenditore che si affida a consulenze legali accelerate dall'IA senza protocolli di verifica rischia non solo la perdita della causa, ma l'esposizione a sanzioni per mala fede processuale. La velocità di redazione offerta da strumenti come ChatGPT o Gemini non può sostituire la validazione della fonte. Il rischio strategico si sposta dalla 'capacità di ricerca' alla 'capacità di verifica'.

Il caso colombiano dimostra che l'IA non è un database di verità, ma un motore probabilistico. Quando un professionista accetta un output senza controllo, delega la propria responsabilità deontologica a un algoritmo. In un contesto di business, questo si traduce in un rischio operativo elevato: l'allucinazione di un contratto o di una norma può portare a decisioni aziendali basate su presupposti falsi.

L'allucinazione giuridica come trappola per l'avvocato

Il Consejo de Estado ha utilizzato questo caso per definire formalmente il fenomeno delle allucinazioni. Si tratta di situazioni in cui l'IA generativa produce riferimenti giuridici, norme o sentenze che appaiono validi, coerenti e convincenti, ma che sono totalmente privi di riscontro reale. La trappola risiede proprio nella forma: l'IA non ammette l'incertezza, ma confeziona il dato falso con la stessa autorevolezza di quello vero.

Il tribunale ha avvertito che piattaforme come ChatGPT, Claude e Gemini possono generare informazioni che sembrano plausibili ma non sono verificabili. Questo meccanismo crea un falso senso di sicurezza nel professionista, che potrebbe essere indotto a credere di aver trovato un precedente solido, quando in realtà sta citando un'invenzione algoritmica. La conseguenza immediata, in questo caso, è stata il rifiuto di plano del ricorso.

Adriana Polidura Castillo e il paradosso della trasparenza

La magistrata Adriana Polidura Castillo ha gestito il caso con un approccio che potremmo definire pedagogico. Invece di limitarsi a sanzionare l'errore, ha trasformato l'auto giudiziario in una guida sull'uso etico della tecnologia. Il paradosso risiede nel fatto che la stessa magistrata che ha condannato l'uso improprio dell'IA ha ammesso di averne utilizzata una per ottimizzare il proprio lavoro.

Polidura Castillo ha stabilito che l'IA può essere un supporto, ma mai un sostituto del giudizio umano. La sua posizione è chiara: la trasparenza è l'unico antidoto all'allucinazione. Se l'IA viene usata, l'utente deve essere in grado di dichiararlo e, soprattutto, di garantire che ogni singolo dato sia stato controllato manualmente. La magistrata ha così tracciato un confine netto tra l'IA come strumento di sintesi e l'IA come fonte di verità.

Il metodo Claude per costruire una tabella giudiziaria

L'aspetto più innovativo della sentenza è una nota a piè di pagina in cui il despacho della magistrata spiega come ha utilizzato Claude per elaborare una tabella contenuta nell'auto. Questo passaggio rappresenta un manuale operativo di trasparenza procedurale.

Il processo seguito non è stato una semplice richiesta di generazione, ma un metodo strutturato di supporto alla redazione. Il tribunale ha utilizzato l'IA per organizzare informazioni già esistenti e verificate, non per cercarne di nuove. In questo modo, l'IA è stata impiegata per la sua funzione di elaborazione formale e sintetica, eliminando il rischio di allucinazione poiché i dati di input erano forniti dal giudice stesso e non estratti dal dataset di addestramento del modello.

Guida all'uso dell'IA in tribunale senza sanzioni

Sulla base dei criteri fissati dal Consejo de Estado, ecco il protocollo di sicurezza per l'integrazione dell'IA generativa nella pratica legale e aziendale:

• Verifica integrale delle fonti: Ogni citazione, numero di radicado, data e nome di ponente deve essere controllato nei database ufficiali.
• Divieto di delega della ricerca: L'IA non deve essere l'unica fonte per l'individuazione di precedenti giuridici.
• Dichiarazione di trasparenza: Segnalare l'uso di strumenti di IA per la redazione o l'organizzazione di documenti.
• Controllo della coerenza: Verificare che il contenuto della sentenza citata corrisponda effettivamente alla tesi sostenuta e non sia solo un abbinamento formale di numeri.
• Uso per sintesi, non per scoperta: Impiegare l'IA per riassumere testi già in possesso dell'utente piuttosto che per cercare nuove norme.

La responsabilità professionale tra l'AI Act e la deontologia forense

Il caso colombiano anticipa le tensioni che l'Europa sta gestendo con l'AI Act. La questione centrale non è l'uso della tecnologia, ma la responsabilità del professionista. In ambito europeo, l'uso di sistemi di IA in contesti giudiziari è classificato come ad alto rischio, richiedendo livelli di supervisione umana rigorosi.

Analisi: per le imprese italiane, questo significa che l'adozione di strumenti di Legal AI deve essere accompagnata da una policy interna di compliance. Non basta acquistare una licenza software; occorre definire chi è il responsabile della validazione finale del documento. Se un'azienda presenta un atto basato su allucinazioni, la responsabilità ricade sul firmatario, indipendentemente dallo strumento usato.

Il mercato locale dovrà muoversi verso una certificazione della 'supervisione umana'. Vedremo probabilmente l'emergere di clausole di manleva tra studi legali e clienti riguardanti l'uso dell'IA. Per monitorare l'evoluzione di questo trend, l'indicatore verificabile sarà l'introduzione di sanzioni disciplinari specifiche da parte dei consigli dell'ordine professionali per l'omessa verifica di output generati da IA entro i prossimi 24 mesi.

In sintesi, l'esperienza del Consejo de Estado, documentata in analisi approfondite da Economist Jurist e Portafolio, insegna che l'efficienza non può prescindere dall'etica. L'IA può scrivere la tabella, ma l'uomo deve garantire la verità.

Implicazioni per l'UE e le imprese italiane

Per le imprese italiane, questo caso conferma che l'AI Act non è solo un vincolo burocratico, ma una protezione contro l'errore sistemico. L'obbligo di trasparenza e la gestione del rischio sono essenziali per evitare che l'automazione diventi un liability legale. In un mercato dove la precisione normativa è critica, la capacità di integrare l'IA senza perdere il controllo della fonte sarà il vero vantaggio competitivo.

Domande frequenti

---

Fonti: Economistjurist, Portafolio, Lpderecho ·

glacom · IA per studi legali: i fascicoli non escono dallo studio →