El TJUE reconeix el dret a l'explicació dels algoritmes el 27 de febrer
- El TJUE estableix que els clients tenen dret a una explicació comprensible quan un algoritme denega un crèdit.
- La Directiva (UE) 2023/2225 regula l'avaluació de solvència automatitzada a partir del 20 de novembre.
- El secret comercial no pot utilitzar-se com a escut per mantenir la opacitat dels models de scoring.
- Les empreses han de combinar el RGPD, l'AI Act i la nova normativa de crèdits al consum.
Sol·licitar un préstec al consum, finançar una compra en un comerç electrònic o demanar l'ampliació del límit d'una targeta són operacions que, actualment, es resolen en pocs segons. Darrere d'aquesta immediatejat no hi ha, habitualment, un analista humà revisant documents, sinó un model matemàtic que processa dades del sol·licitant, consulta fitxers de solvència i aplica tècniques d'aprenentatge automàtic per retornar una puntuació. Aquest número determina el sí, el no i el preu del finançament.
Aquesta eficiència tecnològica ha creat un buit de transparència que la Unió Europea està tancant amb rigor. El sistema de scoring creditici, o avaluació automatitzada de solvència, ha deixat de ser una caixa negra per convertir-se en un objecte de supervisió jurídica. El conflicte central no és la digitalització del sector financer, sinó el risc que decisions amb impactes econòmics profunds es prenguin sense una explicació suficient i sense una intervenció humana real.
El TJUE i el final del secret comercial absolut
Un cas aparentment menor ha marcat un precedent fundamental per a tot el mercat europeu. Una consumidora austríaca es va trobar amb la denegació d'un contracte de telefonia mòbil de deu euros al mes. La decisió no va ser presa per un empleat, sinó per un algoritme d'una empresa d'informació crediticia que la va considerar no solvent. Quan la clienta va voler saber els motius, l'empresa es va limitar a invocar el seu secret comercial per no revelar la lògica del sistema.
Aquest cas ha arribat al Tribunal de Justícia de la Unió Europea (TJUE), que en la seva sentència de 27 de febrer de 2025 (assumpte C-203/22, Dun & Bradstreet Austria), ha reconegut un genuí dret a una explicació. El tribunal ha deixat clar que no és suficient comunicar la puntuació obtinguda ni oferir descripcions genèriques del procés. L'entitat responsable del tractament de dades ha d'explicar, en termes comprensibles, quines dades personals s'han utilitzat i de quina manera han influït en la decisió final.
La sentència suggereix, fins i més, una pauta pràctica per a les empreses: informar l'afectat sobre en quina mesura una variació en les seves dades hauria conduit a un resultat diferent. Aquesta anàlisi de tipus evaluació automatizada de solvencia permet entendre la lògica interna del model sense necessitat de desvelar l'algoritme complet, demostrant que el secret comercial no pot ser un mur infranquejable davant els drets del ciutadà.
La nova Directiva de crèdits al consum
Aquest marc jurisprudencial coincideix amb l'entrada en vigor de la Directiva (UE) 2023/2225, les disposicions de la qual s'han d'aplicar des del proper 20 de novembre. Aquesta normativa converteix l'avaluació de solvència automatitzada en un dels seus eixos centrals, reconeixent que la velocitat del checkout digital no pot anular la protecció del consumidor.
L'objectiu és evitar que errors en els fitxers de morositat, dades desactualitzades o criteris interns opacs condicionin injustament l'accés a la finançació. La normativa busca que el consumidor no quedi atrapat davant d'una decisió que no entén, que no pot revisar i que, per tant, no sap com impugnar. L'innovació financera és necessària, però ha d'operar amb regles clares on l'algoritme ajudi a decidir, però no substitueixi les garanties jurídiques.
Tres capes normatives per a una sola decisió
Per a qualsevol entitat que decideixi sobre crèdits amb suport algorítmic —bancs, fintechs de microcrèdits, plataformes de pagament aplazat o emissors de targetes—, el repte actual és coordinar tres peces legislatives que s'activen simultàniament:
En primer lloc, el Reglament General de Protecció de Dades (RGPD), que reconeix garanties davant decisions basades exclusivament en tractaments automatitzats, incloent el dret a expressar el propi punt de vista i a sol·licitar la intervenció humana. En segon lloc, la nova Directiva de crèdits al consum, enfocada específicament en la solvència. I finalment, el Reglament de Intel·ligència Artificial (AI Act), que reforça les exigences de transparència i control de riscos en sistemis d'IA utilitzats per avaluar l'accés a serveis essencials.
La decisió de concedir o denegar un crèdit amb suport d'un sistema automatitzat està regulada des de tres angles diferents: RGPD, AI Act i la Directiva de crèdits al consum.
El risc de la caixa negra en el scoring
El problema systemic resideix en la tendència de molts models de Machine Learning a operar com a caixes negres. Quan un sistema utilitza variables indirectes o patrons complexos per determinar el risc, ni mateix els programadors poden vegades explicar exactament per què un perfil concret ha rebut un no. No obstant això, des d'un punt de vista legal, aquesta limitació tècnica no és una excusa vàlida.
La transparència ha deixat de ser una opció tecnològica per convertir-se en una exigència de justícia. Quan una màquina condiciona la vida econòmica d'una persona, l'empresa ha de ser capaç de desglossar els criteris. Cuando el algoritmo decide si mereces crédito, la responsabilitat recau sobre l'entitat que implementa la tecnologia, no sobre el codi en sí.
L'impacte en el mercat espanyol i l'ecosistema català
Per a les empreses a Espanya i, especialment, per a l'ecosistema fintech de Barcelona, aquest canvi de paradigma implica una revisió profunda dels seus productes. Catalunya s'ha consolidat com un hub de tecnologia financera on la agilitat és el valor principal; però aquesta agilitat ha de ser ara compatible amb una evaluación de solvencia automatizada totalment auditable.
L'aplicació de l'AI Act a nivell europeu obligarà les startups i entitats financeres locals a implementar sistemes de supervisió humana real. No bastarà amb tenir un botó de revisió que un empleat premi sense analitzar; s'exigirà una capacitat crítica per corregir el model. Per a les empreses catalanes, això representa una oportunitat de liderar el segment de la IA ètica i transparent, convertint el compliment normatiu en un avantatge competitiu davant els competidors extramurals que encara aposten per models opacs.
El mercat espanyol, amb una forta presència de banca tradicional que està integrant serveis de fintech, haurà de vigilar especialment la coherència entre els criteris de risc i la comunicació al client. La combinació de la nova Directiva de crèdits i la jurisprudència del TJUE significa que qualsevol denegació automatitzada sense una explicació detallada és, avui dia, un risc jurídic elevat que pot derivar en sancions severes per part de les autoritats de protecció de dades.
Preguntes freqüents
Què passa si una empresa denega un crèdit i no vol explicar els motius per secret comercial?
Segons el TJUE, el secret comercial no és un obstacle per al dret a l'explicació. L'empresa ha de detallar quines dades s'han usat i com han influït en la decisió.
Quan s'aplica la nova Directiva de crèdits al consum?
Les seves disposicions s'han d'aplicar a partir del 20 de novembre.
Quines són les tres normatives que regulen el scoring automatitzat?
El Reglament General de Protecció de Dades (RGPD), el Reglament de Intel·ligència Artificial (AI Act) i la Directiva (UE) 2023/2225 de crèdits al consum.
Què és el dret a l'explicació en el context del scoring?
És el dret del consumidor a entendre les raons concretes del resultat d'una avaluació automatitzada, no només a conèixer la puntuació final.
Fonts: Economistjurist, Abogadotenerife, Domingomonforte ·
glacom · IA per a despatxos d’advocats: els expedients no surten del despatx →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
