La governança de la IA a Espanya: el risc arriba als consells directius
- El 82% dels incidents de IA a les empreses espanyoles han arribat als comitès executius durant l'últim any.
- Només el 36% de les organitzacions ha modificat les seves polítiques de governança després d'aquestes crisis.
- El 73% dels directius preveu que els agents de IA tinguin autonomia en la presa de decisions l'any vinent.
- El 44% dels líders accelera la inversió en governança per complir la Llei de IA de la UE abans de desembre de 2027.
La velocitat d'adopció de la intel·ligència artificial a les empreses espanyoles està corrent més ràpid que la capacitat de les organitzacions per gestionar-ne els riscos. Mentre les eines de IA s'integren en els processos operatius, els errors i les vulnerabilitats han deixat de ser problemes tècnics confinats al departament d'informàtica per convertir-se en temes prioritaris a les taules dels consells d'administració.
Segons un estudi recent d'IBM que ha encalsat 540 directius d'organitzacions a Espanya, el 82% dels respondents afirma que un incident relacionat amb la IA ha arribat al consell d'administració o al comitè executiu durant l'últim any. Aquests esdeveniments inclouen des de fallades en el funcionament d'agents intel·ligents i exposicions de dades sensibles fins a errors crítics en decisions empresarials basades en IA o bretxes de segureza.
La bretxa entre la detecció del risc i l'acció normativa
L'aspecte més alarmant de les dades no és la freqüència dels incidents, sinó la resposta institucional davant d'ells. Malgrat que la gran majoria de les cúpules directives han tingut coneixement de problemes greus, només el 36% ha modificat la seva política o el seu marc de governança com a resposta directa. Aquesta disparitat suggereix que moltes empreses estan gestionant la IA de manera reactiva, tractant els incidents com a anomalies aïllades en lloc de símptomes d'una estructura de control inadequada.
Aquesta tendència es reflecteix també en la manera com s'està gestionant el desplegament tecnològic. Quan la implementació de la IA supera la preparació dels marcs de compliment, el 65% dels directius opta per continuar operant dins dels límits de risc acordats mentre adapten la governança sobre la marxa. En contrast, només un 30% dels líders decideix retardar el desplegament fins a disposar dels mecanismes de control adequats. Aquesta preferència per la velocitat sobre la seguretat pot crear vulnerabilités sistèmiques a llarg termini.
L'arribada de la IA agèntica i la pèrdua de control
El panorama es torna més complex amb l'emergència de la IA agèntica, sistemes capaços de planificar i executar tasques de manera autònoma. El 73% dels directius espanyols espera que aquests agents ja tinguin algun grau d'autonomia en la presa de decisions l'any vinent. No obstant això, la preparació real és molt inferior: només el 34% dels encasalats reconeix que la seva governança està preparada per ampliar l'ús d'aquesta tecnologia el 2027.
La transició cap a sistemes amb més autonomia introdueix reptes nous que els marcs de governança tradicionals no poden absorbir. La recomanació per a les empreses que busquin extreure més valor empresarial de la IA és establir límits clars sobre les capacitats de l'eina i definir exactament quin grau de responsabilitat recau sobre el sistema i quin sobre l'humà en cas d'ineficiències en el seu rendiment.
El dilema de la responsabilitat legal
Un dels punts més crítics per als empresaris és la determinació de qui ha de respondre legalment quan un sistema de IA provoca danys. L'estudi revela una fragmentació d'opિનions entre els directius espanyols, cosa que indica la manca d'un consens clar o d'una jurisprudència consolidada. Les visions principals es divideixen així:
El 19% dels directius defensa que la responsabilitat s'ha de repartir de manera proporcional entre la IA i el proveïdor, mentre que el 18% insisteix en la necessitat d'un marc regulatori més adequat i el 14% considera que la responsabilitat ha de recaure exclusivament en el proveïdor de la tecnologia.
Aquesta incertesa jurídica pot actuar com un fre per a moltes empreses, però també pot mendorong a una adopció imprudent si es creu que la responsabilitat recau totalment en el vendor extern. La realitat és que la governança interna ha de preveure aquests escenaris abans que els incidents es converteixin en litigis costosos.
Inversió accelerada per l'efecte de la Llei de IA
La pressió regulatòria de la Unió Europea està actuant com un catalitzador per a moltes organitzacions. El 44% dels directius a Espanya està accelerant la seva inversió en governança per anticipation a les obligacions de alt risc que imposarà la Llei de IA de la UE, les quals entraran en vigor el desembre de 2027. L'impacte d'aquestes normatives obligarà les empreses a documentar millor els seus sistemes i a garantir la supervisió humana.
L'estudi subratlla que per obtenir un valor empresarial sostenible, la IA ha de desplegar-se amb responsabilitat i confiança. No es tracta noments d'evitar la tecnologia, sinó de construir una infraestructura de governança que permeti innovar sense posar en risc la viabilitat de l'empresa. Com indica l'anàlisi de CIO, la connexió entre els incidents i els canvis en la governança és actualment el punt més feble de la transformació digital espanyola.
Implicacions per a l'ecosistema empresarial de Catalunya i Espanya
Per a les empreses catalanes, especialment en el hub tecnològic de Barcelona, aquests dades són un senyal d'alerta. Catalunya concentra una densitat molt alta de startups i pimes tecnològiques que estan integrant la IA a un ritme frenètic. El risc és que el dinamisme de l'ecosistema d'emprenedoria català es vegi compromès per una manca de rigor en la governança, cosa que podria derivar en sancions severes sota el marc de l'AI Act.
El mercat espanyol es troba en un moment de vulnerabilitat: s'està adoptant la tecnologia per no quedar enrere en la competició global, però es descuida la part administrativa i legal. Per a un empresari a Barcelona o Madrid, això significa que la IA ja no és un projecte del CTO, sinó una prioritat del CEO i del consell. La capacitat de resposta davant els incidents no pot basar-se en la improvisació, sinó en marcs de governança robustes que anticipin el comportament dels agents autònoms.
L'oportunitat per a les consultories i proveïdors de serveços locals és enorme, ja que hi ha una demanda latent de serveis de compliment i auditoria de IA. Aquelles empreses que aconsegueixin alinear la seva innovació amb la regulació europea abans de 2027 tindran un avantatge competitiu decisiu, transformant el compliment normatiu en un segell de qualitat i confiança per als seus clients.
Preguntes freqüents
Quin percentatge de directius espanyols ha reportat incidents de IA al seu consell?
El 82% dels directius encasalats en l'estudi d'IBM afirma que un incident relacionat amb la IA ha arribat al consell d'administració o al comitè executiu durant l'últim any.
Quina és la resposta majoritária de les empreses davant aquests incidents?
Malgrat l'alta incidència, només el 36% de les organitzacions ha modificat la seva política o el seu marc de governança com a resposta a aquests problemes.
Què s'entén per IA agèntica i quin és el risc associat?
La IA agèntica és aquella que pot prendre decisions i executar tasques de manera autònoma. El risc és que el 73% dels directius preveu la seva autonomia per l'any vinent, però només el 34% sent que la seva governança està preparada per gestionar-la.
Quan entren en vigor les obligacions de alt risc de la Llei de IA de la UE?
Les obligacions de alt risc de la Llei de IA de la UE entraran en vigor el desembre de 2027.
Fonts: Elderecho, Infobae, Cio ·
glacom · IA per a despatxos d’advocats: els expedients no surten del despatx →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
