El ayuntamiento de Treviso prohíbe el uso de IA no homologadas para evitar fugas de datos sensibles y alucinaciones en procesos administrativos públicos.

La digitalización de la administración pública ha avanzado a un ritmo vertiginoso, a menudo superando la capacidad de los marcos normativos para contenerla. En Italia, el municipio de Treviso ha decidido dar un paso firme para cerrar la brecha entre la eficiencia tecnológica y la seguridad jurídica. Mediante una delibera aprobada el pasado 1 de septiembre de 2026, la junta municipal ha establecido un reglamento estricto y un código ético que disciplinan el uso de la inteligencia artificial en los servicios públicos.

Esta medida no debe interpretarse como un rechazo a la innovación, sino como un blindaje contra los riesgos inherentes a las herramientas de acceso abierto. El núcleo del conflicto reside en lo que los expertos denominan Shadow AI: esa tendencia de los empleados públicos a utilizar software gratuitos en la web para agilizar trámites administrativos sin que la organización tenga control sobre el flujo de datos.

El peligro oculto de las plataformas gratuitas

El problema fundamental que enfrenta Ca’ Sugana, como se denomina al ayuntamiento de Treviso, es la naturaleza de los modelos de lenguaje gratuitos. Estas herramientas almacenan la información introducida por los usuarios para seguir entrenando sus algoritmos. Cuando un funcionario carga un documento administrativo o datos personales de un ciudadano en un chatbot gratuito, esa información deja de estar bajo el control del ente público y pasa a formar parte de una base de datos externa.

Alessandro Manera, vicesindaco y asesor de Digitalización, ha sido claro al señalar que el objetivo es crear un manual de instrucciones para una maquinaria que ya estaba en marcha. La falta de normativa previa dejaba la puerta abierta a violaciones graves de la privacidad. Por ello, el nuevo protocolo prohíbe taxativamente el empleo de plataformas no homologadas, permitiendo únicamente el uso de sistemas de pago o cerrados que garanticen que los datos no sean reutilizados para el entrenamiento de la IA.

Alucinaciones y el riesgo de los actos administrativos

Más allá de la privacidad, existe un riesgo operativo crítico: las alucinaciones de la IA. Estos errores, donde el sistema genera respuestas falsas con una apariencia de total seguridad, podrían ser catastróficos si se aplican a un proceso administrativo. Si un funcionario utilizara una IA no controlada para redactar un dictamen o emitir un parecer técnico, el resultado podría inficiar seriamente los servicios ofrecidos a las empresas y ciudadanos, generando inseguridad jurídica.

Para mitigar este riesgo, el reglamento de Treviso establece una línea roja infranqueable: está prohibido que las herramientas automáticas produzcan efectos jurídicos directos sobre los ciudadanos. La supervisión humana se mantiene como el pilar central, asegurando que cualquier contenido generado por IA sea revisado y validado por un responsable humano antes de adquirir validez oficial.

Una estrategia de experimentación controlada

A pesar de la rigidez del veto a las herramientas abiertas, el municipio no ha renunciado a la vanguardia tecnológica. Para evitar que la prohibición se convierta en un lastre para la modernización, se ha implementado una sandbox.

Este entorno separado permite a los técnicos y empleados testear las capacidades de la inteligencia artificial utilizando datos ficticios o anonimizados. De este modo, la administración puede descubrir nuevas formas de optimizar la gestión pública sin exponer la información sensible de la población. Es un modelo de transición digital que prioriza la transparencia y la seguridad sobre la rapidez inmediata.

Principios europeos aplicados al gobierno local

El marco regulatorio de Treviso no es un invento aislado, sino una aplicación local de las directivas europeas sobre IA. El documento aprobado integra cuatro principios fundamentales que deben regir cualquier interacción entre la administración y los algoritmos:

La transparencia en el uso de los sistemas, la seguridad de la infraestructura, la supervisión humana constante y la protección rigurosa de los datos personales.

Este enfoque busca transformar la cultura organizativa del ayuntamiento, pasando de un uso intuitivo y desordenado de la tecnología a una gestión profesionalizada. El código ético adjunto al reglamento sirve como guía para que el personal comprenda no solo qué está prohibido, sino por qué es necesario restringir el uso de herramientas como ChatGPT en el ámbito laboral público.

La confusión sobre el ámbito educativo

Es importante aclarar un punto que generó ruido mediático. Algunas interpretaciones iniciales sugirieron que Treviso se convertía en el primer municipio italiano en prohibir la IA en las escuelas. Sin embargo, el análisis detallado de la norma revela que el provvedimiento disciplina exclusivamente al personal municipal y los sistemas utilizados por la administración pública. El foco está en la gestión del ente, no en la didáctica escolar, aunque el precedente sienta las bases para futuras discusiones sobre la responsabilidad de los institutos y la protección de los estudiantes.

La noticia, recogida por medios como Corriere del Veneto, subraya que la ciudad se proyecta hacia la era del algoritmo, pero lo hace bajo un protocolo de tolerancia cero hacia el uso descontrolado.

Implicaciones para el tejido empresarial y administrativo en España

El caso de Treviso ofrece una lección valiosa para las empresas y administraciones españolas, especialmente en el contexto de la implementación del AI Act de la Unión Europea. En España, donde el tejido empresarial está compuesto mayoritariamente por PYMES, el riesgo de la Shadow AI es igualmente elevado. Muchos empleados ya utilizan herramientas de IA generativa para redactar correos, analizar contratos o resumir actas, a menudo sin que la dirección sea consciente de que datos corporativos confidenciales están alimentando modelos públicos.

Para el empresario español, este precedente sugiere la urgencia de implementar políticas internas de gobernanza de datos. No se trata de prohibir la IA, sino de transitar hacia versiones corporativas que garanticen la privacidad. La Agenda Digital Española impulsa la modernización, pero la seguridad jurídica debe ser la prioridad. Las empresas que ignoren la necesidad de un código ético y un reglamento interno se exponen no solo a fugas de propiedad intelectual, sino a posibles sanciones bajo el RGPD.

La adopción de sandboxes, como la de Treviso, podría ser la solución ideal para las empresas españolas que desean innovar sin riesgo. Crear entornos de prueba donde la IA interactúe con datos sintéticos permite optimizar procesos antes de desplegar la tecnología en el flujo de trabajo real. En definitiva, el camino hacia la eficiencia no puede pasar por el descuido de la privacidad.

Preguntas frecuentes

---

Fuentes: Corrieredelveneto, Webmasterpoint, Pressreader ·