IA i videovigilància municipal: l'AEPD fixa els límits legals
- L'AEPD ha advertit dos ajuntaments sobre projectes de videovigilància amb IA que podrien vulnerar la privacitat.
- El regulador insisteix que la mera existència d'una tecnologia no justifica la seva implementació sense una finalitat concreta.
- S'exigeixen garanties de protecció de dades des del disseny, especialment en reconeixement facial i anàlisi de metadades.
- L'estratègia preventiva de l'agència busca evitar sancions futures mitjançant la correcció dels projectes abans de la seva posada en marxa.
La integració de la intel·ligència artificial en la seguretat pública ha deixat de ser una promesa de futur per convertir-se en una realitat administrativa. No obstant això, el camí cap a la digitalització de la vigilància urbana troba un mur regulatori estrictment definit. L'Agència Espanyola de Protecció de Dades (AEPD) ha actuat recentment per marcar la línia vermella en l'ús d'aquestes eines, enviant advertències formals a dos ajuntaments que preveien implementar sistemes d'anàlisi automatitzat d'imatges.
La funció preventiva de l'AEPD davant la IA
L'intervenció de l'organisme regulador, manifestada a través dels avisos registrats com a AI-00170-2026 i AI-00171-2026, no s'ha produït com a una sanció posterior a una infracció, sinó com una acció preventiva. Aquesta distinció és fonamental per a qualsevol gestor públic o proveïdor tecnològic: l'AEPD busca aturar tractaments de dades que encara no han començat però que, pel seu disseny, podrien no ajustar-se a la normativa vigent.
L'objectiu és clar: obligar els responsables del tractament a incorporar les garanties necessàries abans de la implantació efectiva. D'aquesta manera, l'administració evita el cost polític i econòmic d'instal·lar infraestructures que posteriorment haurien de ser desmuntades o desactivades per ordres judicials o administratives. La AEPD subratlla que la seguretat pot beneficiar-se de la IA, però només si la protecció de dades està integrada des de la concepció del projecte.
Anàlisi de les capacitats qüestionades
Els projectes analitzats pel regulador no eren simples sistemes de gravació, sinó ecosistemes complexos de processament de dades. En un dels casos, el projecte contemplava funcionalitats de detecció o reconeixement facial, una de les eines més sensibles pel que fa a la privacitat dels ciutadans. En el segon cas, la complexitat residia en la generació de metadades i la capacitat de recerca de persones basant-se en característiques físiques.
Aquest segon enfocament permetia, teòricament, filtrar imatges segons la vestimenta, el color del cabell, el sexe o el grup d'edat, i fins i tot utilitzar una fotografia externa com a punt de partida per trobar una persona en el flux de càmeres. Aquest tipus de anàlisi automatitzat transforma la videovigilancia passiva en un sistema de monitorització activa i segmentada, cosa que eleva considerablement el risc per als drets fonamentals.
El principi de necessitat i proporcionalitat
Un dels punts més contundents de la comunicació de l'agència és la crítica a la tendència de adoptar tecnologies només perquè estiguin disponibles en el mercat. L'AEPD ha estat taxativa: la disponibilitat d'una tecnologia no justifica per si mateixa la seva utilització. Per a que un sistema de videovigilància amb IA sigui legal, ha de superar un examen rigorós de necessitat i proporcionalitat.
La disponibilitat d'una tecnologia no justifica per si mateixa la seva utilització, que ha de respondre a una finalitat concreta i superar un anàlisi de necessitat i proporcionalitat.
Això significa que l'ajuntament no pot al·legar simplement que la IA millora la seguretat, sinó que ha de demostrar que no existeixen altres mètodes menys intrusius per aconseguir el mateix objectiu. El regulador exigeix que cada funcionalitat estigui vinculada a una finalitat específica i justificada, evitant la recollida indiscriminada de dades o el processament excessiu de la imatge dels ciutadans.
Garanties tècniques i el disseny per a la privacitat
Perquè aquests sistemes siguin viables, l'AEPD insisteix en la implementació de la protecció de dades des del disseny. Això implica que la privacitat no pot ser un annex que s'afegeix al final del projecte, sinó que ha de ser l'eix central de l'arquitectura tècnica. Les empreses que desenvolupen aquest software han de preveure mecanismes de minimització de dades i controls d'accés estrictes.
L'estratègia de l'agència, tal com es detalla en la seva nota de premsa, és guiar els consistoris perquè els seus projectes siguin robusts davant a possibles impugnacions. La detecció de persones i vehicles, si bé és menys intrusiva que el reconeixement facial, segueix requerint una evaluació d'impacte detallada que justifiqui per què és necessari generar metadades sobre l'aparença dels individus.
L'impacte en la contractació pública de tecnologia
Aquest escenari canvia les regles del joc per a les empreses de seguretat i tecnologia que venen solucions d'IA a l'administració pública. Ja no és suficient oferir la funcionalitat més avançada o el reconeixement més ràpid; ara el valor diferencial és la conformitat legal. Els pliegos de contractació hauran de ser molt més específics quant a les garanties de privacitat.
Les empreses que ignoren aquests requeriments corren el risc de veure els seus projectes bloquejats en la fase d'implementació. La tendència marca que l'AEPD no dubtará en intervenir en projectes simils, especialment quan s'estiguin utilitzant dades biomètriques o anàlisis de comportament en espais públics. La transparència en l'ús dels algoritmes i la capacitat de supervisió humana es tornen elements crítics per a l'aprovació de qualsevol sistema de videovigilància intel·ligent.
Implicacions per a l'ecosistema empresarial a Catalunya i Espanya
La notícia té una ressonància particular per a l'ecosistema tecnològic de Barcelona i el mercat espanyol en general. Catalunya, i especialment Barcelona, s'ha posicionat com un hub de IA i smart cities. No obstant això, la pressió regulatoria de l'AEPD, alineada amb el marc europeu de l'AI Act, obliga les startups i les grans empreses de tech a repensar la seva oferta.
Per a les empreses catalanes, això significa que el desenvolupament de productes de seguretat urbana ha de moure's cap a la anònimització en temps real i la computació en el vorí (edge computing), on la imatge no es desplaça a un servidor centralment si no és estrictament necessari. El mercat espanyol està entrant en una fase on la conformitat normativa és una ventaja competitiva. Aquelles empreses que siguin capaces d'oferir sistemes de videovigilància que garanteixin la privacitat per disseny tindran un accés molt més fluid a la contractació pública.
A més, l'aplicació de l'AI Act a nivell europeu reforçarà aquests criteris, classificant moltes d'aquestes funcionalitats de vigilància com a risc alt o, en alguns casos, prohibides si impliquen una identificació biomètrica en temps real sense autorització judicial. L'advertència de l'AEPD és, per tant, un senyal d'alerta per a tot el sector: la innovació en IA a Espanya no pot anar pera davant de la protecció de dades, sinó que ha de caminar a la seva parella per ser sostenible i legalment viable.
Preguntes freqüents
Per què l'AEPD ha advertit els ajuntaments si els sistemes encara no s'han instal·lat?
L'agència exerceix una funció preventiva per evitar que s'implementin tractaments de dades il·legals, permetent que els responsables corregin els projectes abans de la seva posada en marxa.
Quines funcionalitats de la IA en videovigilància són més problemàtiques?
El reconeixement facial i la recerca de persones per característiques d'aparença (vestimenta, edat, sexe) són les més sensibles per al regulador.
Què significa que la tecnologia no justifica la seva utilització?
Significa que el fet que una eina de IA existeixi i sigui eficaç no dona dret a utilitzar-la si no es demostra que és estrictament necessària i proporcional per a un objectiu concret.
Com afecta això a les empreses que venen software de seguretat?
Les obliga a integrar la protecció de dades des del disseny i a assegurar-se que els seus productes compleixin amb els criteris de necessitat i proporcionalitat de l'AEPD.
Fonts: Elderecho, Aepd, Larazon ·
glacom · IA per a l’administració pública: les dades no surten de l’organisme →Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
