IA en selecció de personal: l'AEPD alerta sobre la protecció de dades
- L'AEPD ha advertit una empresa sobre la implementació d'una IA per al cribat de currículums i la mobilitat interna.
- El regulador subratlla que la protecció de dades ha de estar integrada des del disseny i la configuració inicial del projecte.
- Es requereix una supervisió humana real i transparència total sobre la lògica algorítmica per evitar sesgos discriminatòris.
- L'objectiu és compatibilizar l'eficiència tecnològica amb els drets i llibertats dels treballadors i candidats.
L'automatització dels processos de recursos humans ha deixat de ser una promesa de futur per convertir-se en una realitat operativa en moltes organitzacions. No obstant això, la velocitat de la implementació tecnològica sovint corre per davant de la reflexió jurídica. Recentment, l'Agència Espanyola de Protecció de Dades (AEPD) ha enviat una advertència a una empresa que planejava implantar una eina de intel·ligència artificial per al cribat i l'avaluació de candidatures, tant per a noves contractacions com per a processos de mobilitat interna.
El sistema en qüestió estava dissenyat per analitzar currículums, assignar puntuacions i prioritzar perfils, el que implica una influència directa en l'accés a l'empri i en la promoció professional dels individus. Un detall crucial és que l'eina encara no s'havia posat en funcionament, tot i que la companyia ja n'havia informat el seu personal. Aquesta intervenció preventiva del regulador marca una línia clara: la innovació no pot anar desconnectada de les garanties legals.
La protecció de dades des del disseny
L'AEPD no nega el valor de la tecnologia; de fet, reconeix que la incorporació de la IA en la gestió de persones pot millorar significativament l'eficiència i la qualitat dels processos de selecció. El problema sorgeix quan aquestes eines s'implementen sense una estructura de seguretat prèvia. El regulador insisteix que la protecció de dades ha de ser part integral de la configuració inicial del projecte, un concepte conegut com a protecció de dades des del disseny i per defecte.
Aquest enfocament obliga les empreses a identificar els riscos i a adoptar mesures tècniques i organitzatives abans que el sistema comenci a processar la primera dada. No es tracta d'un ajust posterior, sinó d'una premissa constructiva. Quan una eina de IA decideix qui avança en un procés de selecció, el tractament de dades es torna crític, ja que combina informació personal amb expectatives laborals i criteris d'avaluació que poden tenir un impacte profundament desigual si no es controlen.
Transparència i lògica algorítmica
Un dels punts més sensibles en l'ús de la IA per filtrar currículums és la opacitat dels algorismes. L'AEPD subratlla que les empreses han de ser capaces d'explicar exactament quines dades s'utilitzen, amb quina finalitat i, sobretot, quina és la lògica general que segueix el sistema per assignar una puntuació o descartar un candidat. La transparència no és només una obligació informativa, sinó una garantia contra l'arbitrari.
Aquest requeriment implica que el candidat ha de saber que està sent evaluat per un sistema automatitzat i quins criteris estan pesant més en la decisió. Sense aquesta claredat, el procés de selecció es converteix en una caixa negra on l'error o el sesgo poden perpetuar-se sense que ningú pugui qüestionar la decisió. Per a les empreses, això significa que han de revisar la base jurídica del tractament i la informació facilitada als candidats, tal com s'explica en les recomanacions de l'AEPD.
El risc dels sesgos i la qualitat de les dades
La IA no és neutra; és el reflex dels dades amb què ha estat entrenada. Si els dades d'entrada contenen sesgos històrics —per exemple, preferències inconscients per a certs gèneres, edats o orígens en postures executives—, l'algoritme no farà més que automatitzar i amplificar aquestes discriminacions. La qualitat de les dades d'entrenament és, per tant, un element crític per evitar decisions inexactes o discriminatòries.
L'advertència del regulador serveix per recordar que el cribat automatitzat pot generar impactes reputacionals i legals greus. Una empresa que utilitza una eina que descarta sistemàticament perfils basant-se en criteris no objectius s'exposa a sancions severes i a una degradació de la seva imatge corporativa. La documentació de la validació del sistema i la correcció activa de sesgos són passos imprescindibles per a qualsevol departament de compliance.
La supervisió humana com a barrera de seguretat
Un dels aspectes més insistents de la notificació de l'AEPD és que la supervisió humana no pot ser merament formal. No és suficient que un responsable de recursos humans faci clic en un botó d'aprovació sense revisar el criteri de l'IA. La supervisió ha de ser real i efectiva, amb la capacitat de revertir o modificar la decisió de l'algoritme basant-se en un judici crític.
La IA en selecció no és només una qüestió tecnològica: és un tractament de dades amb impacte laboral i reputacional.
Aquesta intervenció humana és la única manera de garantir que els drets i llibertats dels individus no queden subordinats a una eficiència matemàtica. Les empreses han de definir clarament els rols del responsable i l'encarregat del tractament, assegurant que hi hagi un mecanisme de correcció d'errors accessible per als candidats.
L'impacte en el mercat espanyol i l'ecosistema català
Aquesta advertència de l'AEPD arriba en un moment clau per a les empreses a Espanya i, especialment, per a l'ecosistema tecnològic de Catalunya. Barcelona s'ha consolidat com un hub d'IA i startup, on moltes companyies estan desenvolupant solucions de HR Tech. No obstant això, la pressió reguladora augmenta amb l'arribada de l'AI Act de la Unió Europea, que classifica els sistemis de IA utilitzats en l'educació i la gestió de treballadors (incloent la selecció i la promoció) com a sistemes de risc alt.
Per a les empreses catalanes i espanyoles, això significa que el compliment normatiu ja no és un detall secundari, sinó un requisit de viabilitat del producte. Les startups que desenvolupen aquestes eines han de projectar la conformitat amb el RGPD i l'AI Act des de la primera línia de codi. El mercat espanyol, amb una tradició forta de protecció de dades, veurà una vigilància molt més estreta sobre com s'utilitzen els algorismes per decidir el futur professional de les persones.
En conclusió, la digitalització dels recursos humans és inevitable i beneficiosa, però requereix un canvi de mentalitat. Les empreses no han de veure la regulació com un obstacle, sinó com un marc de seguretat que evita errors costosos. Per a més detalls sobre les garanties exigibles, es pot consultar la guia de Elderecho o la anàlisi de Adara Legal.
Preguntes freqüents
L'AEPD prohibeix l'ús de la IA per analitzar currículums?
No, l'AEPD reconeix que la IA pot millorar l'eficiència, però exigeix que s'implementin garanties de protecció de dades, transparència i supervisió humana real.
Què es vol dir amb protecció de dades des del disseny?
Significa que la privacitat i la seguretat han de ser integrades en la configuració inicial del projecte tecnològic, i no afegides com a correcció posterior a la implementació.
Per què és perillós que la IA assigni puntuacions als candidats?
Perquè si el sistema té sesgos (per dades d'entrenament inadequades), pot discriminar a persones per motius no objectius, influint directament en les seves oportunitats laborals.
Quina és la diferència entre supervisió humana formal i real?
La formal és un simple tràmit d'aprovació; la real implica que un humà revisi el criteri de l'algoritme i tingui la capacitat efectiva de canviar la decisió.
Fonts: Elderecho, Aepd, Adaralegal ·
glacom · IA per a despatxos d’advocats: els expedients no surten del despatx →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
