Die Stadt Treviso verbietet die unkontrollierte Nutzung von ChatGPT in Behörden. Ein strategischer Schritt gegen Shadow AI und für den Datenschutz im öffentlichen Sektor.

Die digitale Transformation der öffentlichen Verwaltung steht oft im Spannungsfeld zwischen Effizienzsteigerung und dem Schutz hochsensibler Bürgerdaten. In Italien hat die Stadt Treviso nun eine Vorreiterrolle eingenommen, indem sie eine der ersten Kommunen ist, die ein umfassendes Reglement sowie einen Ethikcodex für den Einsatz von Künstlicher Intelligenz (KI) verabschiedet hat. Die am 1. September 2026 beschlossene Maßnahme markiert eine deutliche Zäsur im Umgang mit generativen KI-Systemen innerhalb der städtischen Administration.

Der Kampf gegen die sogenannte Shadow AI

Im Zentrum der neuen Richtlinien steht die Bekämpfung der Shadow AI. Dieser Begriff beschreibt die Tendenz von Mitarbeitern, eigenständig und ohne offizielle Genehmigung kostenlose Web-Software zu nutzen, um administrative Prozesse zu beschleunigen. Was auf den ersten Blick wie eine harmlose Produktivitätssteigerung wirkt, stellt aus Sicht der Stadtverwaltung ein massives Sicherheitsrisiko dar. Die Gefahr liegt in der Funktionsweise offener Sprachmodelle: Informationen, die Nutzer in kostenlose Chatbots eingeben, werden oft gespeichert und zum Training künftiger Modellversionen verwendet.

Wenn Verwaltungsmitarbeiter vertrauliche Dokumente oder personenbezogene Daten von Bürgern in solche Systeme einspeisen, verlassen diese Informationen den kontrollierten Bereich der kommunalen Server. Die Folge wäre ein unkontrollierbarer Kanal für die Verbreitung sensibler Daten, was einen direkten Verstoß gegen die Datenschutzrichtlinien darstellt. Um dieses Risiko zu neutralisieren, ist die Nutzung nicht homologisierter Plattformen in den Büros der Stadtverwaltung ab sofort strikt untersagt.

Halluzinationen und die Gefahr rechtlicher Fehlentscheidungen

Neben dem Datenschutz sorgt ein technisches Phänomen für Beunruhigung in der Stadtführung: die sogenannten Halluzinationen der KI. Generative Systeme neigen dazu, plausibel klingende, aber faktisch falsche Informationen zu erzeugen. In einem privaten Kontext mag dies ein Ärgernis sein, in einem administrativen Prozess kann es jedoch fatale Folgen haben. Die Stadtverwaltung von Treviso warnt davor, dass KI-generierte Inhalte, die beispielsweise als Grundlage für ein offizielles Gutachten oder eine Genehmigung dienen, die Qualität und Rechtmäßigkeit der Dienstleistungen für Bürger und Unternehmen ernsthaft beeinträchtigen könnten.

Aus diesem Grund legt das neue Reglement fest, dass automatisierte Instrumente keine rechtlichen Wirkungen gegenüber den Bürgern entfalten dürfen. Die Letztentscheidung und die Verantwortung müssen zwingend bei einem Menschen liegen. Diese Forderung nach menschlicher Aufsicht ist ein Kernpunkt des neuen Protokolls, das die europäische Gesetzgebung in die lokale Praxis übersetzt.

Ein kontrollierter Raum für Innovation: Die Sandbox

Trotz der strengen Verbote bedeutet die Entscheidung der Stadtverwaltung unter der Leitung von Ca’ Sugana keinen Rückzug aus der digitalen Moderne. Im Gegenteil: Die Stadt möchte die technologische Entwicklung begleiten, jedoch unter kontrollierten Bedingungen. Hierfür wurde eine sogenannte Sandbox eingerichtet. Dabei handelt es sich um eine isolierte Testumgebung, in der KI-Anwendungen mit fiktiven oder vollständig anonymisierten Daten erprobt werden können.

Dieser Ansatz erlaubt es der Verwaltung, das Potenzial von KI-Tools zu evaluieren, ohne die Privatsphäre der Bürger zu gefährden. Es wird eine klare Trennung gezogen zwischen dem individuellen, unkontrollierten Online-Dienst und den systemischen, verifizierbaren Anwendungen, die eine offizielle Homologation durchlaufen haben. Nur Systeme, die entsprechende Sicherheitsgarantien bieten – oft im Rahmen kostenpflichtiger Enterprise-Versionen mit geschlossenen Datenkreisläufen –, sollen langfristig zugelassen werden.

Transparenz und Ethik als neue Leitplanken

Das am 1. September verabschiedete Dokument besteht aus zwei Säulen: einem technischen Reglement und einem begleitenden Ethikcodex. Letzterer definiert die moralischen und professionellen Standards, an denen sich die Mitarbeiter orientieren müssen. Die Stadt orientiert sich dabei an den Prinzipien der Europäischen Union, insbesondere in Bezug auf Transparenz, Sicherheit und Datenschutz. Alessandro Manera, Vizebürgermeister und Stadtrat für Digitalisierung, betonte, dass es zuvor an einer Art Bedienungsanleitung für eine Maschine fehlte, die bereits in Betrieb war. Mit dem neuen Kodex schafft die Stadt die notwendige rechtliche und ethische Basis.

Die Regelungen betreffen nicht nur den bekannten Chatbot ChatGPT, sondern erstrecken sich auf alle generativen KI-Systeme, virtuellen Assistenten und Plattformen zur Datenanalyse. Ziel ist es, eine transparente digitale Transition zu gestalten, bei der die Technologie dem Menschen dient und nicht die Kontrolle über die Datenhoheit übernimmt. Weitere Details zu dieser Entwicklung finden sich in Berichten von Corriere del Veneto und Webmasterpoint.

Das Problem ist, dass dieser Bereich noch nicht reguliert war. Wir haben die Grundlagen geschaffen, um zu verhindern, dass Informationen über Bürger in offene Systeme fließen und dort rielaboriert werden.

Implikationen für die öffentliche Verwaltung in Europa

Der Fall Treviso ist symptomatisch für eine Entwicklung, die wir in vielen europäischen Verwaltungen beobachten. Die Euphorie über die Zeitersparnis durch KI weicht einer nüchternen Analyse der Risiken. Besonders in Sektoren, in denen staatliche Autorität und rechtliche Verbindlichkeit eine Rolle spielen, ist die Fehlertoleranz gleich null. Die Einführung von Richtlinien, die den Einsatz von KI an die Bedingung der Homologation knüpfen, wird vermutlich zum Standard werden.

Die Stadtverwaltung zeigt damit auf, dass Digitalisierung nicht bedeutet, jedes verfügbare Tool ungefiltert zu übernehmen, sondern eine Infrastruktur zu schaffen, die Sicherheit und Innovation vereint. Die Sandbox-Strategie könnte hierbei als Modell für andere Kommunen dienen, um den technologischen Anschluss nicht zu verlieren, ohne die rechtliche Integrität zu opfern.

Bedeutung für Deutschland und den DACH-Raum

Für Unternehmen und Verwaltungen in Deutschland, Österreich und der Schweiz liefert das Beispiel Treviso wichtige Impulse, insbesondere im Kontext des EU AI Act. In der DACH-Region, wo Datenschutz (DSGVO) traditionell einen extrem hohen Stellenwert genießt, ist die Gefahr der Shadow AI in vielen mittelständischen Unternehmen (Mittelstand) bereits präsent, wird aber oft ignoriert.

Im Rahmen von Industrie 4.0 ist die Integration von KI essenziell, doch die Grenze zwischen Effizienz und Compliance ist schmal. Deutsche Unternehmen, die stark auf proprietäre Daten und Geschäftsgeheimnisse setzen, können aus dem Vorgehen von Treviso lernen: Ein striktes Verbot von Gratis-Tools bei gleichzeitiger Etablierung einer kontrollierten Testumgebung (Sandbox) ist der sicherste Weg zur Implementierung.

Für den deutschen Mittelstand bedeutet dies, dass die bloße Bereitstellung von KI-Lizenzen nicht ausreicht. Es bedarf einer klaren Governance-Struktur und eines Ethikcodex, der festlegt, welche Daten in welche Systeme fließen dürfen. Die Lehre aus Treviso ist klar: Wer die Kontrolle über seine Daten verliert, verliert die Kontrolle über seine Prozesse. In einer Region, die auf Präzision und Verlässlichkeit baut, ist die Vermeidung von KI-Halluzinationen in geschäftskritischen Abläufen kein Luxus, sondern eine Notwendigkeit für die Wettbewerbsfähigkeit.

Häufige Fragen

---

Quellen: Corrieredelveneto, Webmasterpoint, Pressreader ·