El Consell d'Estat de Colòmbia alerta sobre 4 sentències inventades per IA
- Un tribunal colombià ha rebut un recurs amb sentències inexistents generades per IA.
- El Consell d'Estat ha fixat regles estrictes per evitar les anomenades al·lucinacions.
- La sentència destaca l'ús transparent de Claude per a tasques administratives.
- El cas serveix de precedent per a la verificació obligatòria de dades en l'àmbit jurídic.
La integració de la intel·ligència artificial generativa en el sector professional ha passat de ser una curiositat tecnològica a una eina de productivitat massiva. No obstant això, la línia entre l'eficiència i l'error crític és extremadament fina, especialment quan es tracta de la seguretat jurídica. Un cas recent al Consell d'Estat de Colòmbia ha posat de manifest el perill real de confiar cegament en models com ChatGPT, Claude o Gemini per a la recerca de jurisprudència.
L'error que va detonar la alerta judicial
El conflicte va començar el 26 de maig de 2026, quan la magistrada Adriana Polidura Castillo, de la Secció Tercera del Consell d'Estat, va haver de rebutjar un recurs extraordinari d'unificació de jurisprudència. El motiu no era la falta d'arguments, sinó que aquests es basaven en mentides tecnològiques. El recurrent havia inclòs quatre sentències del propi Consell d'Estat, detallant números de radicat, dates, ponents i doctrines específiques que, a simple vista, semblaven totalsment legítimes.
La realitat va sortir a la llum quan la Relatoria del tribunal va iniciar la verificació. En utilitzar els cercadors tradicionals i els arxius interns, van descobrir que tres dels números de radicat corresponien a processos reals, però que no tenien absolutament res a veure amb els arguments presentats: un cas tractava sobre una reparació per privació injusta de la llibertat, un altre sobre un decret d'emergència sanitària i el tercer sobre la devolució de l'IVA. El quart número, simpelment, no existia en cap registre. L'advocat havia presentat documents que semblaven coherents i convincents, però que eren productes de la IA.
El fenomen de les al·lucinacions en el dret
Aquest incident ha obligat el tribunal a reflexionar sobre el que s'anomena al·lucinació. Aquest fenomen ocorre quan una eina d'IA generativa crea informació que sembla lògica i està ben estructurada, però que no té cap suport en la realitat. En l'àmbit jurídic, això és especialment perillós perquè la IA no admet que no sap una resposta; en canvi, intenta completar el patró lingüístic que l'usuari sol·licita, inventant referències, articles de llei o sentències que encaixin amb la narrativa del text.
El tribunal ha advertit que sistemes com ChatGPT i altres models poden ser extremadament persuasius. La capacitat de redactar amb un to formal i autoritari pot enganyar fins i tot a professionals experimentats si aquests no apliquen un filtre de verificació rigorós. La providència resultant no només condemna l'error, sinó que estableix que qualsevol informació generada per IA ha de ser verificada manualment abans de ser presentada en un procés judicial.
Una paradoxa: l'ús ètic i transparent de Claude
El que fa que aquest auto judicial sigui singular no és només la sanció al mal ús de la tecnologia, sinó l'exemple que el propi tribunal ha donat sobre com utilitzar-la correctament. En una nota al peu del document, el despatx judicial ha revelat que ha utilitzat Claude per elaborar una taula dins de l'auto. La diferència fonamental rau en la transparència i la finalitat de l'ús.
Mentre que l'advocat va utilitzar la IA per crear fonts de prova inexistents, el tribunal va utilitzar l'eina per a una tasca d'organització de dades ja verificades. Aquest detall és crucial: la IA és excel·lent per a la síntesi, l'estructuració i el format, però és poc fiable per a la recuperació de fets precisos o referències legals específiques si no s'està treballant amb una base de dades tancada i controlada.
L'auto judicial no només condemna el mal ús de la intel·ligència artificial, sinó que ens ensenya a utilitzar-la bé a través de l'exemple pròpi.
Regles clares per a advocats i jutges
A raíz d'aquest cas, el Consell d'Estat ha fixat criteris estrictes per a l'activitat jurídica. La premissa és clara: la responsabilitat final del contingut d'un escrit recau sempre sobre l'humà que el signa. L'ús d'IA no pot ser una excusa per a la negligència professional ni per a la presentació de dades falses davant la justícia.
Els criteris establerts suggereixen que la IA s'utilitzi com a assistent de redacció o anàlisi, però mai com a font primària de jurisprudència. La verificació a través de canals oficials i bases de dades certificades és l'única manera de garantir que el procés judicial no es vegi contaminat per errors tecnològics. Aquest enfocament busca equilibrar la innovació amb la seguretat jurídica, evitant que la velocitat de la IA comprometi la veritat dels fets.
L'impacte en l'ecosistema empresarial de Catalunya i Espanya
Tot i que aquest cas s'ha produït a Colòmbia, el seu impacte és directament aplicable al mercat espanyol i, específicament, a l'ecosistema d'empresa i LegalTech de Barcelona. Espanya es troba en un moment clau amb la implementació de l'AI Act de la Unió Europea, que classifica determinades aplicacions de la IA en l'administració de justícia com a sistemes de risc alt.
Per a les empreses catalanes que estan integrant la IA en els seus departaments jurídics o de conformitat (compliance), aquest precedent és un recordatori de que l'automatització no pot eliminar la supervisió humana. En un entorn tan competitiu com el de Barcelona, on les startups de LegalTech creixen ràpidament, la transparència en l'ús de models com Claude o GPT és un actiu estratègic. Una empresa que presenti documents amb al·lucinacions davant un tribunal espanyol s'exposaria no només a la pèrdua del cas, sinó a possibles sancions per falta d'ètica professional o fins i tot per falsedat documental.
El mercat espanyol ha de moure's cap a la implementació de sistemes de RAG (Retrieval-Augmented Generation), on la IA no genera res des del seu coneixement general, sinó que busca informació en una base de dades privada i verificada de la companyia o del tribunal. Només així es pot evitar que la productivitat es converteixi en un risc legal. L'ecosistema d'empresa a Catalunya té l'oportunitat de liderar aquest canvi, promovent una IA transparent que no substitueixi el judici crític de l'advocat, sinó que el potencie sense inventar la realitat.
Preguntes freqüents
Què és una al·lucinació de la IA en el context jurídic?
És quan un model de llenguatge genera referències, sentències o articles de llei que semblen reals i coherents, però que en realitat no existeixen.
Com ha utilitzat el Consell d'Estat la IA de manera correcta?
El tribunal ha utilitzat Claude per a l'elaboració d'una taula organitzativa, detallant el procediment seguit i mantenint la transparència sobre l'ús de l'eina.
Quina és la principal lecció per als advocats que utilitzen IA?
Que la responsabilitat del contingut és sempre de l'humà i que qualsevol referència generada per IA ha de ser verificada manualment en fonts oficials.
Fonts: Economistjurist, Portafolio, Lpderecho ·
glacom · IA per a despatxos d’advocats: els expedients no surten del despatx →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
