Seit dem 2. August 2026 gilt Artikel 50 des EU AI Act. Erfahren Sie, welche Unternehmen KI-Inhalte kennzeichnen müssen und welche Sanktionen bei Verstößen drohen.

Die rechtliche Landschaft für Künstliche Intelligenz in Europa hat einen entscheidenden Wendepunkt erreicht. Während das Grundgerüst des EU AI Act bereits 2024 verabschiedet wurde, ist nun eine der praxisrelevantesten Bestimmungen für Unternehmen und Content-Ersteller aktiv geworden. Seit dem 2. August 2026 ist Artikel 50 der Verordnung verbindlich. Diese Norm regelt präzise, wann und wie Inhalte, die mithilfe von KI erstellt oder manipuliert wurden, gegenüber der Öffentlichkeit gekennzeichnet werden müssen.

Im Kern geht es um die Wiederherstellung von Vertrauen in digitale Medien. In einer Zeit, in der die Grenze zwischen menschlicher Schöpfung und algorithmischer Generierung verschwimmt, setzt die Europäische Union auf radikale Transparenz. Ziel ist es, Nutzer davor zu schützen, durch täuschend echte Inhalte manipuliert zu werden, und gleichzeitig die Verantwortlichkeit der Akteure zu schärfen.

Die Grenze zwischen Optimierung und Deepfake

Nicht jede Berührung durch eine KI führt automatisch zu einer Kennzeichnungspflicht. Die Verordnung unterscheidet strikt zwischen geringfügigen technischen Anpassungen und substanziellen Manipulationen. Als kennzeichnungspflichtige Deepfakes gelten KI-generierte oder wesentlich manipulierte Bilder, Videos und Audios, die reale Personen, Orte oder Ereignisse so realistisch darstellen, dass sie für echt gehalten werden können.

Ein Bild gilt dann als manipuliert, wenn Personen in ein reales Foto eingefügt, Gesichter oder Stimmen verändert oder die ursprüngliche Intention des Bildes erheblich verschoben wurde. Im Gegensatz dazu bleiben gewöhnliche Helligkeits- oder Farbkorrekturen, ein leichter Zuschnitt oder die KI-gestützte Rauschunterdrückung von der Pflicht befreit. Ebenso fallen offensichtlich abstrakte Motive oder Szenen, die eindeutig unrealistisch sind, nicht unter diese Regelung. Die Herausforderung für Unternehmen liegt nun in der Definition dieser Grauzonen.

Transparenz bei Texten und öffentlichem Interesse

Besonders kritisch wird es bei schriftlichen Inhalten. Eine Kennzeichnung ist zwingend erforderlich, wenn ein Text die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert, ganz oder überwiegend durch KI erzeugt wurde und keine echte menschliche redaktionelle Kontrolle stattgefunden hat. Hier greift ein wesentlicher Schutzmechanismus: die menschliche Verantwortung.

Wenn ein Unternehmen die redaktionelle Verantwortung übernimmt und den Inhalt substanziell auf Richtigkeit, Vollständigkeit und fehlende Kontextfehler prüft, entfällt die Kennzeichnungspflicht. Dies bedeutet, dass KI als Werkzeug zur Entwurfserstellung zulässig ist, solange der Mensch das letzte Wort hat und die inhaltliche Garantie übernimmt. Wer hingegen Texte ungefiltert per Prompt an die Öffentlichkeit gibt, muss dies transparent machen.

Wer trägt die Verantwortung für die Markierung?

Die Verordnung teilt die Pflichten zwischen zwei Gruppen auf: den Anbietern der Technologie und den sogenannten Deployern, also den Betreibern, die die KI-Systeme in ihren Geschäftsprozess integrieren. Während die Anbieter technische Markierungen direkt in den Datenstrom integrieren müssen, liegt die Verantwortung für die sichtbare Etikettierung beim Betreiber.

Ein Chatbot muss beispielsweise explizit als Künstliche Intelligenz erkennbar sein. Die Kennzeichnung muss dabei klar, verständlich, sichtbar und barrierefrei erfolgen. In der Praxis bedeutet das:

• Bei Bildern: Markierung direkt im Bild, optional ergänzt durch eine Bildunterschrift.
• Bei Videos: Hinweis zu Beginn des Clips.
• Bei Audioinhalten: Eine hörbare Kennzeichnung.
• Bei Texten: Gut sichtbarer Hinweis am Anfang oder nahe der Überschrift (z. B. AI Generated oder KI-manipuliert).

Ethische Leitplanken und der Schutz von Grundrechten

Hinter den technischen Vorgaben steht eine tiefere ethische Debatte. Experten wie Javier Álvarez von der Universität Valladolid betonen, dass die Überwachung und menschliche Kontrolle proportional zur Beeinflussungsmöglichkeit der KI steigen muss. Je stärker ein System in die Rechte einer Person eingreift, desto höher müssen die Garantien sein. Besonders sensibel sind Bereiche wie die Personalauswahl oder der Zugang zu sozialen Diensten.

Die EU möchte verhindern, dass KI zur Täuschung, Diskriminierung oder Identitätsunterschiebung genutzt wird, ohne dass die betroffene Person dies bemerkt. Neben der Transparenz spielt auch der Datenschutz eine zentrale Rolle, da viele Systeme auf riesigen Datenmengen basieren. Die offizielle Verordnung unterstreicht, dass die Förderung von Innovation nicht auf Kosten der Grundrechte gehen darf.

Das finanzielle Risiko bei Nichtbeachtung

Die EU hat den AI Act mit einem scharfen Sanktionsinstrument ausgestattet, um die Einhaltung der Transparenzregeln zu erzwingen. Verstöße gegen die Kennzeichnungspflichten können empfindliche Bußgelder nach sich ziehen. Die Strafen können bis zu 15 Millionen Euro erreichen oder alternativ 3 Prozent des weltweiten Jahresumsatzes betragen, je nachdem, welcher Wert höher ist.

Interessanterweise gehen einige Mitgliedstaaten bereits über die EU-Mindeststandards hinaus. In Italien beispielsweise verlangt das Gesetz 132/2025 eine allgemeine Information der Kunden über sämtliche KI-generierten Inhalte, was eine noch strengere Auslegung der Transparenz bedeutet. Unternehmen, die europaweit agieren, müssen daher die jeweils strengste lokale Norm als Benchmark wählen.

Bedeutung für den DACH-Raum und den Mittelstand

Für deutsche Unternehmen, insbesondere den Mittelstand und die Industrie 4.0, bedeutet die Aktivierung von Artikel 50 einen erheblichen administrativen Mehraufwand. Viele Betriebe nutzen KI-Tools wie ChatGPT, Gemini oder Adobe-Produkte bereits in ihrem Marketing oder in der internen Kommunikation. Während interne Texte und reine Werbebeschreibungen derzeit noch keine Kennzeichnung benötigen, wird es für Unternehmen kritisch, sobald sie Informationsangebote zu Themen von öffentlichem Interesse bereitstellen.

Ein prägnantes Beispiel findet sich im Gesundheitswesen. Krankenhäuser, die gesundheitsbezogene Informationen auf ihren Websites oder in sozialen Medien veröffentlichen, müssen genau prüfen, ob diese Texte KI-generiert sind. Da Gesundheitsthemen explizit zum öffentlichen Interesse zählen, ist hier entweder eine strikte redaktionelle Prüfung durch medizinisches Fachpersonal oder eine klare Kennzeichnung als KI-Inhalt zwingend.

Für den deutschen Maschinenbau und die Industrie bedeutet dies, dass Dokumentationen und technische Anleitungen, sofern sie für die Öffentlichkeit zugänglich sind und Sicherheitsaspekte berühren, einer neuen Compliance-Prüfung unterzogen werden müssen. Die Empfehlung für DACH-Unternehmen lautet: Nicht blind alles kennzeichnen, sondern zunächst interne Prozesse und Verantwortlichkeiten definieren. Es muss klar festgelegt werden, wer die redaktionelle Verantwortung trägt, um die Kennzeichnungspflicht rechtssicher zu vermeiden und gleichzeitig die Effizienz der KI-Tools zu nutzen.

Die Transparenzpflichten des EU AI Acts sind kein bloßes Detail, sondern ein strategisches Risiko. Wer die Herkunft seiner digitalen Inhalte nicht im Griff hat, setzt sich massiven Bußgeldern aus.

Zusammenfassend lässt sich sagen, dass die neue Regelung eine Professionalisierung im Umgang mit generativer KI fordert. Weg vom experimentellen Prompting, hin zu einem kontrollierten, redaktionell begleiteten Workflow. Nur so können Unternehmen die Vorteile der Technologie nutzen, ohne in die Falle der regulatorischen Sanktionen zu tappen.

Häufige Fragen

---

Quellen: Rtve, Diarioenpositivo, Boe ·