IA i videovigilància urbana: l'AEPD posa límits al reconeixement facial
- L'AEPD ha emès advertències preventives a dos ajuntaments per projectes de videovigilància amb IA.
- El reconeixement facial i l'anàlisi biomètrica automaticat estan sota el focus del regulador.
- L'Agència subratlla que la disponibilitat tècnica d'una eina no legitima la seva implementació.
- S'exigeix un anàlisi rigorós de necessitat i proporcionalitat abans de l'activació d'aquestes funcions.
La integració de la intel·ligència artificial en la seguretat ciutadana ha deixat de ser una promesa futurista per convertir-se en una realitat contractual en diversos municipis espanyols. No obstant això, el pas de la capacitat tècnica a l'aplicació operativa no és automàtic ni lliure de restriccions. L'Agència Espanyola de Protecció de Dades (AEPD) ha intervingut recentment per recordar que la modernització de les càmeres de vigilància no pot atropellar els drets fonamentals dels ciutadans.
L'advertència de l'AEPD als ajuntaments
L'autoritat de control ha dirigit advertències formals a dos ajuntaments després de detectar projectes de videovigilancia que preveien funcionalitats d'anàlisi automatitzat d'imatges mitjançant IA. Aquests expedients, que inclouen el sumministrament, la instal·lació i el manteniment de sistemes gestionats des de les dependències de la Policia Local, plantejava dubtes legals significatius sobre la privacitat.
En un dels casos, el contracte especificava expressament la possibilitat d'utilitzar tecnologies de detecció o reconeixement facial, incloent l'ús de dades biomètriques. En el segon projecte, les capacitats anuncades eren igualment ambicioses: detecció de persones i vehicles, generació de metadades i la recerca de persones basant-se en característiques d'aparença, com la roba, el color del cabell, el sexe o el grup d'edat, permetent fins i tot l'ús d'una fotografia com a punt de partida per a la cerca.
La tecnologia no justifica l'ús
Un dels punts centrals de la resolució de l'AEPD és la dissociació entre la capacitat d'una eina i la seva legitimitat d'ús. L'Agència ha estat taxativa en assenyalar que la disponibilitat d'una tecnologia no justifica per si mateixa la seva utilització. En altres paraules, que un software de videovigilància vinga amb el mòdul de reconeixement facial activable no significa que l'administració pública tingui dret a activar-lo.
L'administració local ha de demostrar que cada funcionalitat de la IA respon a una finalitat concreta i que ha superat un anàlisi de necessitat i proporcionalitat. No es tracta d'una prohibició absoluta de la IA en la seguretat, sinó d'una exigència de justificació rigorosa. L'objectiu és evitar que la vigilància urbana es converteixi en un sistema de monitoratge massiu i indiscriminat basat en algoritmes.
Un mecanisme preventiu per evitar sancions
És important destacar que aquestes actuacions de l'AEPD no són sancions, sinó advertències preventives basades en l'article 58.2.a) del Reglament General de Protecció de Dades (RGPD). Aquest mecanisme permet a l'autoritat de control alertar sobre operacions de tractament que encara no s'han iniciat però que podrien infringir la normativa si no s'adopten les garanties necessaries.
La existència d'aquesta advertència no significa que l'Agència hagi constatat ja una vulneració de la normativa, sinó que aprecia la possibilitat de que el futur tractament resulti incompatible amb les obligacions de protecció de dades.
Aquesta estratègia busca que els responsables del tractament, en aquest cas els ajuntaments, integrin les garanties de protecció de dades des del disseny del projecte, evitant així el desplegament d'infraestructures que posteriorment haurien de ser desactivades o modificades per ordre judicial o administrativa, amb el cost econòmic i operatiu que això implicaria.
El risc del reconeixement facial i biomètric
El reconeixement facial és una de les eines més controvertides de la IA actual a causa de la seva capacitat per identificar de forma unívoca a les persones. L'AEPD considera que aquestes funcionalitats són indicis d'un tractament de dades biomètriques, categories especialment protegides per la llei.
El regulador ha assenyalat que la documentació examinada no permetia determinar si el reconeixement facial s'activaria realment o si es generarien plantilles biomètriques per comparar imatges captades amb bases de referència. Precisament aquesta ambigüitat és la que ha disparat l'alerta. L'ús de metadades per filtrar persones segons la seva aparença física també entra en aquesta zona de risc, ja que pot derivar en un perfilat automatitzat que vulneri la privacitat dels ciutadans en l'espai públic.
Garanties per a una IA urbana legal
Perquè la IA pugui ser un suport real a la seguretat ciutadana sense anular els drets individuals, l'AEPD insisteix en la implementació de mesures tècniques i organitzatives estrictes. La videovigilància dotada de IA és possible, però només s'ha de fer sota un marc de transparència i control.
Les administracions han de realitzar anàlisis d'impacto detallats que evaluïn el risc per als drets i llibertats. Aquest procés implica definir exactament què es vol detectar, per què és necessari fer-ho mitjançant IA i no amb mètodes menys intrusius, i com es garantirà que les dades no s'utilitzin per a finalitats diferents a la seguretat pública. Com indica Confilegal, el focus recau en la proporcionalitat de cada funcionalitat implementada.
Impacte en l'ecosistema empresarial de Catalunya i Espanya
Aquesta postura de l'AEPD té implicacions directes per a les empreses tecnològiques, especialment per a les startups i proveïdors de seguretat i IA basats a hubs com Barcelona. El mercat espanyol s'està movent cap a un escenari on la venda de software de vigilància no pot basar-se només en la llista de funcions tècniques, sinó que ha de venir acompanyada d'un assessorament legal sobre la seva aplicabilitat.
L'entrada en vigor de l'AI Act a nivell europeu reforça aquesta tendència. El reconeixement facial en temps real en espais públics per a finalitats policials està subjecte a restriccions molt severes i excepcions molt concretes. Per a les empreses catalanes que desenvolupen solucions de Smart City, això significa que el disseny de producte ha de ser privacy-by-design. Qualsevol eina que permeti l'identificació biomètrica sense un marc legal sòlid corre el risc de ser invendible o de generar responsabilitats legals per als seus clients públics.
El sector tech a Espanya ha de comprendre que la competitivitat ja no depèn noments de la potència de l'algoritme, sinó de la seva capacitat per operar dins dels límits del dret europeu. Les empreses que siguin capaces d'oferir solucions de seguretat intel·ligent que garanteixin la anònimitat per defecte o que utilitzin anàlisi de comportaments sense identificació personal tindran un avantatge estratègic en el mercat de la contractació pública.
Preguntes freqüents
L'AEPD ha prohibit el reconeixement facial en els ajuntaments?
No, no és una prohibició general, sinó una advertència preventiva. L'Agència indica que l'ús de la IA és possible si es demostra la seva necessitat i proporcionalitat i s'apliquen les garanties de protecció de dades.
Què és l'advertència preventiva de l'AEPD?
És un mecanisme basat en el RGPD que permet a l'Agència alertar sobre projectes que encara no s'han implementat però que podrien infringir la norma, permetent que l'administració corregeixi el projecte abans de l'activació.
Quines funcionalitats de la IA han generat alerts?
Especialment el reconeixement facial, l'ús de dades biomètriques i la recerca de persones per característiques d'aparença (roba, sexe, edat) a partir d'imatges.
Com afecta això a les empreses que venen software de videovigilància?
Les empreses han de dissenyar productes que respectin la privacitat des del principi (privacy-by-design) i no poden pressuposar que totes les funcions tècniques del software siguin legals per a l'ús públic.
Fonts: Confilegal, Lavanguardia, Aepd ·
glacom · IA per a l’administració pública: les dades no surten de l’organisme →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
