Supervisió humana i IA: el nou imperatiu legal per a les empreses

L'evolució de la intel·ligència artificial ha deixat d'estar vinculada a simples models de resposta per entrar en l'era dels agents. Aquests sistemes no es limiten a processar informació, sinó que són capaços de planificar tasques, connectar-se amb eines externes i prendre decisions encadenades de manera autònoma. Aquesta capacitat d'actuació independent ofereix oportunitats operatives sense precedents per a l'emprenedoria, però simultaneously obre un debat crític sobre el control real dels algorismes.

En aquest escenari, l'Agència Espanyola de Protecció de Dades (AEPD) ha estat taxativa: la supervisió humana efectiva no és un simple formalisme tècnic, sinó una exigència legal i operativa indispensable. Per a qualsevol empresari que estigui integrant la IA en els seus processos de negoci, entendre aquest canvi de paradigma és vital per evitar sancions i garantir la sostenibilitat del model de governança.

El pas de la revisió puntual a la governança contínua

Durant anys, el control dels sistemes automatitzats es basava en una verificació final. Una persona revisava el resultat d'un procés i donava el seu vistobre. No obstant això, amb l'arribada de la IA agèntica, aquesta visió ha quedat obsoleta. Quan un agent interactua amb bases de dades en temps real o executa accions en cadena, la supervisió a posteriori és insuficient i perillosa.

La supervisió ha de transformar-se en un mecanisme viu. No és suficient amb designar un responsable del sistema sobre el paper. La persona encarregada ha de disposar de mitjans reals per comprendre la lògica operativa de l'agent, intervenir en qualsevol moment del flux de treball si detecta una desviació i, sobretot, aturar immediatament l'actuació del sistema abans que causin un impacte irreversible. Aquesta és la diferència entre una supervisió nominal i una supervisió efectiva.

L'encaix legal entre el Reglament de IA i el RGPD

Aquesta exigència de control no és una recomanació etica, sinó que respon a un marc normatiu europeu coordinat. Per una banda, el Reglament Europeu de Intel·ligència Artificial (AI Act) estableix la supervisió humana com una obligació explícita per als sistemes catalogats com de risc alt. L'objectiu és prevenir sesgos, errors sistèmics o danys a drets fonamentals que podrien ser ignorats per una màquina.

Per l'altra banda, aquest enfocament s'alinea amb el principi de responsabilitat proactiva, o accountability, del Reglament General de Protecció de Dades (RGPD). Segons aquest principi, no basta amb complir la norma teòricament; les organitzacions han de demostrar activament com protegeixen les dades i com controlen els processos automatitzats. Per a més detalls sobre aquest requeriment, es pot consultar la informació sobre la supervisió humana efectiva.

Sistemes prohibits i la capacitat d'actuació de l'AEPD

L'innovació tecnològica té límits jurídics clars. Quan un sistema de IA vulnera els drets fonamentals, el problema deixa de ser tècnic per esdevenir legal. El Reglament (UE) 2024/1689 fixa aquests límits i, tot i que la seva aplicació és progressiva, part del seu contingut ja està en vigor.

L'AEPD ha recordat que pot actuar contra sistemes de IA prohibits que tractin dades personals, fins i tot abans que el Reglament de IA estigui plenament operatiu. Això es deu al fet que l'agència ja disposa de competències suficients per intervenir quan un sistema infringeix el RGPD. Les empreses no poden utilitzar el període de transició del nou reglament com a escut per implementar sistemes que vulnerin la privacitat o els drets dels ciutadans. El risc de sancions és real i immediat per a aquells sistemes que s'estiguin utilitzant de manera il·legítima, tal com s'explica en el detall sobre la AEPD i els sistemes de IA prohibits.

La IA generativa com a suport i no com a substitut

La IA generativa s'ha convertit en una eina quotidiana per redactar textos, analitzar informació o resumir documents. Tanmateix, la seva implementació improvisada és un error estratègic. L'AEPD ha publicat orientacions que, tot i estar dirigides inicialment a l'Administració Pública, serveixen com a estàndard de referència per a qualsevol empresa privada.

El missatge central és clar: la IA generativa ha de funcionar com un suport a la funció humana, mai com un substitut. Això implica que les interfícies han de ser comprensibles per als usuaris i que aquests han de coneixer les limitacions, els sesgos i els riscos dels models utilitzats. La responsabilitat final de qualsevol output o decisió basat en IA recau sempre en les persones, no en el programari.

La IA no pot ser una caixa negra on es deposita la confiança cega; ha de ser una eina transparent on la responsabilitat humana sigui el filtre final i obligatori.

Obligacions de governança per a l'empresa moderna

Integrar la IA en una organització requereix el mateix rigor que qualsevol altre sistema crític de negoci. No es tracta només de triar una eina, sinó de definir com, per a què i sota quins controls s'utilitza. La governança de la IA implica una estructura organitzativa concreta.

Per complir amb els estàndards actuals, les empreses han de focalitzar-se en els següents punts de control:

• Identificació de responsables funcionals i tècnics per a cada cas d'ús de la IA.
• Aprovació i documentació formal de cada aplicació tecnològica implementada.
• Manteniment d'un inventari actualitzat de tots els sistemes de IA actius a l'empresa.
• Gestió del cicle de vida complet, des del disseny i la implementació fins a la retirada del sistema.
• Establiment de mecanismes per detectar errors i avaluar el rendiment de forma periòdica.

Aquest enfocament sistemàtic permet a l'empresa no només complir la llei, sinó optimitzar l'ús de la tecnologia evitant errors costosos. Per entendre millor aquestes obligacions, és recomanable revisar la guia de la AEPD sobre IA generativa.

Impacte en l'ecosistema empresarial de Catalunya i Espanya

Per a les empreses catalanes, especialment en el vibrant hub tecnològic de Barcelona, aquests requeriments representen un repte i una oportunitat. L'ecosistema d'emprenedoria català, caracteritzat per una alta adopció de solucions SaaS i IA, ha de moure's cap a un model de Compliance by Design. No es pot permetre que la velocitat de la innovació superi la capacitat de control legal.

En el mercat espanyol, la pressió de l'AEPD indica que el temps de la experimentació sense controls ha acabat. Les PIMES i les startups que vulguin escalar els seus productes de IA hauran de prioritzar la transparència i la supervisió humana per ser atractives per a inversors i segures per als clients. L'AI Act no ha de veure's com una barrera, sinó com un marc que professionalitza el sector. L'empresa que sigui capaç de demostrar una governança sòlida tindrà un avantatge competitiu en termes de confiança i seguretat jurídica, elements essencials per a qualsevol negoci que vulgui operar a nivell europeu.

Preguntes freqüents

Fonts: Adaptacion-rgpd, Prodat, Academiadeia ·