L'IA dans l'administration : Trevise impose un cadre strict
- Trevise adopte un règlement et un code éthique pour encadrer l'IA administrative.
- Interdiction formelle des outils gratuits pour contrer la Shadow AI et les fuites de données.
- Mise en place d'une sandbox pour tester l'IA avec des données fictives ou anonymisées.
- Priorité à la supervision humaine et à la conformité avec les directives européennes.
La transition numérique des administrations publiques franchit une étape cruciale en Italie. La municipalité de Trevise, connue sous le nom de Ca’ Sugana, s'est dotée d'un arsenal réglementaire pour discipliner l'usage de l'intelligence artificielle au sein de ses services. Loin d'être un rejet technologique, cette initiative vise à instaurer une transition digitale transparente et rigoureuse, en réponse aux risques croissants liés à l'usage incontrôlé des outils génératifs.
Le combat contre la Shadow AI administrative
Le cœur de la décision, actée par une délibération le 1er septembre 2026, cible un phénomène grandissant dans les bureaux : la Shadow AI. Cette pratique consiste, pour des agents publics, à utiliser en autonomie des logiciels gratuits disponibles sur le web pour accélérer le traitement des dossiers. Si l'intention est souvent un gain de productivité, le risque pour l'institution est majeur.
Le problème réside dans le fonctionnement même des plateformes gratuites. Ces systèmes stockent les données saisies par les utilisateurs pour entraîner leurs modèles linguistiques. Dans un contexte administratif, charger un document confidentiel ou des informations sur un administré revient à alimenter une base de données externe et non sécurisée, créant ainsi un canal de divulgation incontrôlable de données sensibles. Pour neutraliser cette menace, la ville a instauré une interdiction tassative de l'emploi de plateformes non homologuées.
L'allucination algorithmique face au droit
Au-delà de la confidentialité, la municipalité s'inquiète de la fiabilité des réponses produites par les IA. Les hallucinations, ces moments où l'algorithme génère des informations fausses avec une assurance totale, représentent un danger juridique. Si un agent s'appuyait sur une réponse erronée pour rendre un avis administratif ou prendre une décision, la validité du service offert aux citoyens et aux entreprises serait gravement compromise.
C'est pourquoi le règlement stipule clairement que les outils automatiques n'ont pas le droit de produire des effets juridiques directs sur les citoyens. L'humain reste le seul décideur et le seul responsable final de l'acte administratif. Cette approche place la supervision humaine au centre du dispositif, conformément aux principes de transparence et de sécurité.
Un cadre éthique basé sur les normes européennes
Le dispositif adopté par Trevise ne se limite pas à une simple liste d'interdictions. Il s'articule autour de deux piliers : un règlement technique et un code éthique. Ce dernier transpose les directives européennes dans le quotidien des agents municipaux. L'objectif est de fournir un manuel d'instructions là où, selon Alessandro Manera, adjoint au maire et conseiller à la Digitalisation, il n'y avait jusqu'ici qu'une machine lancée sans guide.
Le code éthique encadre l'usage des outils génératifs capables de produire des textes, des rapports ou des analyses. Il ne vise pas uniquement ChatGPT, mais l'ensemble des chatbots, assistants virtuels et plateformes d'analyse de données. En imposant l'usage de systèmes payants ou homologués, la ville s'assure que les données restent dans un périmètre contrôlé et ne servent pas à l'entraînement de modèles publics.
La sandbox : expérimenter sans mettre en péril
Pour éviter que la prudence ne se transforme en immobilisme, la municipalité a prévu un espace de test sécurisé : une sandbox. Cet environnement séparé permet aux services de tester les capacités de l'IA sans aucun risque pour la vie privée des administrés. L'utilisation de données fictives ou anonymisées permet d'explorer le potentiel de l'automatisation tout en maintenant un blindage total des serveurs communaux.
Cette stratégie permet à Ca’ Sugana de ne pas renoncer à la modernisation. La ligne est désormais tracée entre l'expérimentation vérifiée et l'usage individuel sauvage de services en ligne. L'administration peut ainsi identifier les cas d'usage pertinents avant de les déployer à grande échelle via des canaux officiels et sécurisés.
L'enjeu est simple : si l'on interroge un système à accès libre avec des informations concernant les citoyens, on viole leur vie privée.
Une gouvernance rigoureuse pour les services publics
L'initiative de Trevise marque une rupture avec l'adoption intuitive et souvent désordonnée de l'IA dans le secteur public. En formalisant les règles, la ville protège non seulement les données, mais aussi la responsabilité juridique de ses agents. L'approche adoptée peut être résumée ainsi :
L'administration privilégie désormais des systèmes fermés, où les données ne sortent pas du contrôle de l'entité, tout en maintenant une vigilance constante sur la qualité des outputs. Cette rigueur est présentée comme la condition sine qua non pour que l'IA devienne un véritable levier d'efficacité sans devenir une source de vulnérabilité.
L'écho de cette décision pour les entreprises françaises
Bien que cette mesure soit locale, elle résonne fortement avec les enjeux actuels des entreprises en France. Le cas de Trevise illustre parfaitement la mise en pratique anticipée de l'AI Act européen, qui classifie les systèmes d'IA selon leur niveau de risque. Pour les PME et ETI françaises, l'exemple italien souligne l'urgence de définir une politique interne sur la Shadow AI.
Dans le cadre de France 2030, l'accent est mis sur l'innovation, mais la souveraineté des données reste un pilier. Les entreprises françaises, très attachées à la protection des données via le RGPD, doivent tirer les leçons de cette approche : l'interdiction des outils gratuits au profit de versions Enterprise (avec garantie de non-entraînement des modèles) devient une norme de sécurité indispensable. Le tissu d'entreprise français, composé majoritairement de structures où l'informatique est parfois gérée de manière informelle, gagnerait à adopter des codes éthiques similaires pour éviter que des secrets industriels ne se retrouvent dans les bases de données de modèles publics.
Questions fréquentes
Pourquoi Trevise a-t-elle interdit ChatGPT dans ses bureaux ?
L'interdiction vise les versions gratuites et non homologuées pour éviter que des données sensibles de citoyens ne soient utilisées pour entraîner des modèles d'IA et pour prévenir les risques d'hallucinations dans les actes administratifs.
Est-ce que l'IA est totalement bannie de la ville ?
Non, la ville autorise l'usage de systèmes homologués et a créé une sandbox (environnement de test) pour expérimenter l'IA avec des données fictives ou anonymisées.
Quel est l'impact sur les décisions administratives ?
Le règlement stipule que les outils d'IA ne peuvent pas produire d'effets juridiques directs sur les citoyens ; la supervision humaine reste obligatoire pour toute décision.
Ce règlement s'applique-t-il aux écoles de Trevise ?
Non, malgré certaines interprétations initiales, le provvediment discipline le personnel communal et les systèmes de l'administration, et non les établissements scolaires.
Sources: Corrieredelveneto, Webmasterpoint, Pressreader ·
Scrivila qui: Susanna, l assistente AI di glacom, ti risponde via email con un approfondimento gratuito.
Nessuna consulenza personalizzata (finanziaria, legale o medica): solo informazione e fonti. Email usata solo per rispondere.
oppure scrivile su: WhatsApp · Telegram · SimpleX · Delta Chat · Email
