Kennzeichnungspflicht für KI: Wann müssen Inhalte nach dem AI Act gekennzeichnet werden?
Dieser Beitrag erklärt die Kennzeichnungspflicht für KI nach Art. 50 AI Act. Art. 50 AI Act gilt ab dem 2. August 2026. Die Vorschrift führt keine allgemeine Pflicht ein, jeden mit künstlicher Intelligenz erstellten Text, jedes Bild oder jede Software als KI-Erzeugnis zu kennzeichnen. Transparenzpflichten greifen nur bei bestimmten KI-Systemen und Inhalten, insbesondere bei unmittelbaren KI-Interaktionen, Deepfakes und bestimmten Veröffentlichungen zu Angelegenheiten von öffentlichem Interesse.
Kurzantwort
Die Transparenzpflichten des Art. 50 AI Act gelten ab dem 2. August 2026. Ab diesem Datum müssen Anbieter und Betreiber die jeweils einschlägigen Pflichten erfüllen, sofern ihr KI-System oder Anwendungsfall unter Art. 50 fällt.
Eine allgemeine Kennzeichnungspflicht für sämtliche KI-generierten Texte, Bilder, Videos oder Software besteht nicht. Entscheidend sind insbesondere die Rolle als Anbieter oder Betreiber, die Funktion des Systems, die Art des Inhalts und der Zweck seiner Veröffentlichung.
Für generative KI-Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, besteht nach den aktuellen Vorgaben nur für die technische Markierungs- und Erkennungspflicht nach Art. 50 Abs. 2 eine begrenzte Übergangsfrist bis zum 2. Dezember 2026. Vor dem 2. August 2026 erzeugte Inhalte müssen nicht allgemein rückwirkend gekennzeichnet werden; bei einer späteren neuen Nutzung oder Veröffentlichung ist der konkrete Anwendungsfall dennoch erneut zu prüfen.
Rechtsgrundlage
Wo steht die Kennzeichnungspflicht für KI?
Die maßgeblichen Transparenzpflichten stehen in Art. 50 der Verordnung (EU) 2024/1689 über künstliche Intelligenz, dem sogenannten AI Act. Die Vorschrift richtet sich an Anbieter und Betreiber bestimmter KI-Systeme. Sie enthält mehrere eigenständige Pflichten, aber keine pauschale Vorgabe, nach der jeder mit KI erstellte Inhalt sichtbar als solcher gekennzeichnet werden muss.
Art. 50 gilt ab dem 2. August 2026. Für die praktische Prüfung ist deshalb zunächst zu klären, welche Rolle die Organisation einnimmt, welches KI-System eingesetzt wird und welcher Inhalt veröffentlicht oder gegenüber Personen verwendet wird.
Wichtig: Die Frage „Wurde KI verwendet?“ reicht für die rechtliche Bewertung nicht aus. Entscheidend sind insbesondere Rolle, Funktionsweise, Art des Inhalts, Veröffentlichungszweck und die Möglichkeit einer Täuschung.
Geltungsbeginn
Ab wann gilt die Kennzeichnungspflicht nach Art. 50 AI Act?
Die Transparenzpflichten des Art. 50 AI Act gelten ab dem 2. August 2026. Maßgeblich ist nicht allein, wann ein Inhalt erstellt wurde, sondern ob ein Anbieter oder Betreiber ab diesem Zeitpunkt ein erfasstes KI-System in der Europäischen Union anbietet, betreibt oder einen erfassten Inhalt veröffentlicht beziehungsweise zugänglich macht.
Eine begrenzte Übergangsregel besteht nur für generative KI-Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden. Deren Anbieter müssen die technische Markierungs- und Erkennungspflicht nach Art. 50 Abs. 2 nach den aktuellen Vorgaben erst ab dem 2. Dezember 2026 erfüllen. Diese Übergangsfrist betrifft nicht pauschal sämtliche Transparenzpflichten und entbindet Betreiber insbesondere nicht allgemein von ihren eigenen Offenlegungspflichten.
Inhalte, die bereits vor dem 2. August 2026 erzeugt wurden, müssen nach den aktuellen Hinweisen der Europäischen Kommission nicht allein wegen ihres Erstellungszeitpunkts nachträglich gekennzeichnet werden. Wird ein solcher Inhalt nach dem 2. August 2026 neu veröffentlicht, erneut eingesetzt oder in einen neuen Kontext gestellt, sollte jedoch geprüft werden, ob die konkrete Verwendung etwa als Deepfake oder als Veröffentlichung zu einer Angelegenheit von öffentlichem Interesse unter Art. 50 Abs. 4 fällt.
Zeitliche Einordnung: Regelfall ab 2. August 2026; begrenzte Übergangsfrist bis 2. Dezember 2026 ausschließlich für Art. 50 Abs. 2 bei bestimmten bereits bestehenden generativen KI-Systemen; keine allgemeine rückwirkende Kennzeichnungspflicht für zuvor erzeugte Inhalte.
Rollenverteilung
Anbieter oder Betreiber: Wer ist nach Art. 50 verpflichtet?
Der AI Act unterscheidet insbesondere zwischen Anbietern und Betreibern. Anbieter entwickeln ein KI-System oder lassen es entwickeln und bringen es unter eigenem Namen oder eigener Marke auf den Markt oder in Betrieb. Betreiber setzen ein KI-System in eigener Verantwortung ein, sofern die Nutzung nicht rein persönlich und nicht beruflich erfolgt.
Die technische Erkennbarkeit KI-generierter Inhalte betrifft vor allem Anbieter. Betreiber müssen dagegen insbesondere bestimmte Nutzende über eine KI-Interaktion informieren und bei der Veröffentlichung bestimmter Deepfakes oder Texte eine Offenlegung vornehmen.
Eine Organisation kann je nach Produktgestaltung auch selbst zum Anbieter werden, etwa wenn sie ein KI-System wesentlich verändert oder unter eigenem Namen anbietet. Die reine Nutzung eines fremden Standarddienstes führt dagegen nicht automatisch zur Anbieterstellung.
Interaktion
Wann muss eine KI-Interaktion kenntlich sein?
Anbieter von KI-Systemen, die für die unmittelbare Interaktion mit natürlichen Personen bestimmt sind, müssen das System grundsätzlich so gestalten, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren. Die Pflicht entfällt, wenn dies aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände und des Nutzungskontexts offensichtlich ist.
Typische Anwendungsfälle sind Chatbots, Sprachassistenten oder virtuelle Ansprechpartner auf Websites. Ein klarer Hinweis wie „Sie kommunizieren mit einem KI-gestützten Assistenten“ kann erforderlich sein. Der Hinweis sollte spätestens bei Beginn der Interaktion wahrnehmbar sein.
Für Systeme, die gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassen sind, bestehen besondere Ausnahmen. Diese sind eng auszulegen und für normale Verwaltungs- oder Unternehmenschatbots regelmäßig nicht einschlägig.
Technische Erkennbarkeit
Welche technische Kennzeichnung müssen Anbieter ermöglichen?
Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen grundsätzlich sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die technischen Lösungen müssen wirksam, interoperabel, robust und zuverlässig sein, soweit dies technisch machbar ist.
Diese Pflicht ist nicht mit einem sichtbaren Hinweis des Anwenders gleichzusetzen. Sie betrifft die technische Gestaltung des Systems, etwa geeignete Metadaten, Herkunftsnachweise oder andere maschinenlesbare Markierungen.
Ausnahmen bestehen insbesondere für Systeme, die lediglich Standardbearbeitungen unterstützen oder die Eingabedaten beziehungsweise deren Bedeutung nicht wesentlich verändern. Auch für bestimmte gesetzlich zugelassene Strafverfolgungszwecke enthält Art. 50 Sonderregeln.
Bilder, Audio und Video
Wann müssen Deepfakes gekennzeichnet werden?
Betreiber eines KI-Systems, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die einen Deepfake darstellen, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Ein Deepfake ist nach dem AI Act ein KI-erzeugter oder manipulierter Inhalt, der bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.
Nicht jedes KI-Bild ist damit automatisch ein Deepfake. Eine klar erkennbare Illustration, ein abstraktes Motiv oder eine offensichtlich fiktive Szene fällt nicht allein wegen des Einsatzes einer Bild-KI unter diese Betreiberpflicht. Maßgeblich ist, ob der Inhalt realitätsnah täuschen kann.
Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werken ist die Offenlegung in angemessener Weise zulässig, ohne die Darstellung oder den Genuss des Werks zu beeinträchtigen. Die Kennzeichnung darf also an das konkrete Format angepasst werden, muss aber erkennbar bleiben.
Texte
Wann müssen KI-generierte Texte gekennzeichnet werden?
Für Texte enthält Art. 50 keine allgemeine Kennzeichnungspflicht. Die Betreiberpflicht erfasst Texte, die künstlich erzeugt oder manipuliert und mit dem Zweck veröffentlicht werden, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Der Anwendungsbereich kann beispielsweise journalistisch anmutende Meldungen, öffentliche Informationsbeiträge oder Veröffentlichungen zu politischen, gesellschaftlichen, gesundheitlichen oder behördlichen Themen umfassen. Entscheidend sind Inhalt, Veröffentlichungszweck und Adressatenkreis.
Normale interne Arbeitsentwürfe, E-Mails, Vertragsentwürfe, Produkttexte oder Quellcode sind nicht schon deshalb nach Art. 50 sichtbar zu kennzeichnen, weil bei ihrer Erstellung ein KI-Werkzeug verwendet wurde. Andere rechtliche Anforderungen, etwa Urheberrecht, Lauterkeitsrecht, Berufsrecht oder Informationspflichten, können unabhängig davon zu prüfen sein.
Ausnahme
Welche Ausnahme gilt bei menschlicher redaktioneller Kontrolle?
Die Offenlegungspflicht für Texte zu Angelegenheiten von öffentlichem Interesse gilt nicht, wenn der KI-generierte Inhalt einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.
Eine bloße flüchtige Sichtkontrolle sollte nicht vorschnell als ausreichende redaktionelle Kontrolle behandelt werden. Sinnvoll ist ein nachvollziehbarer Prozess, in dem Inhalt, Tatsachen, Quellen, rechtliche Risiken und sprachliche Aussagen geprüft und die Veröffentlichung einer verantwortlichen Person zugeordnet werden.
Die Ausnahme betrifft diese spezielle Betreiberpflicht. Sie beseitigt nicht automatisch andere Anforderungen, etwa die Pflicht zur wahrheitsgemäßen Information, fachliche Sorgfalt oder sektorspezifische Kennzeichnungsvorgaben.
Softwareentwicklung
Muss Software gekennzeichnet werden, wenn sie mit KI erstellt wurde?
Nein. Art. 50 verlangt keine sichtbare Kennzeichnung einer Software allein deshalb, weil Quellcode, Texte, Grafiken oder einzelne Funktionen mit Unterstützung eines KI-Werkzeugs entwickelt wurden.
Anders liegt es, wenn die Software selbst ein KI-System enthält, das unmittelbar mit Personen interagiert oder synthetische Inhalte erzeugt. Dann sind die jeweils einschlägigen Transparenzpflichten für das System und seinen Einsatz zu prüfen.
Daneben können Lizenzbedingungen, Rechte Dritter, IT-Sicherheit, Geschäftsgeheimnisse und Dokumentationspflichten eine Rolle spielen. Diese Fragen sind von der Kennzeichnungspflicht nach Art. 50 zu trennen.
Bestandsinhalte
Was gilt für bereits erstellte Inhalte und bestehende Systeme?
Für vor dem 2. August 2026 erzeugte Inhalte besteht keine allgemeine Pflicht, sie nachträglich allein deshalb als KI-generiert zu kennzeichnen. Das betrifft insbesondere bereits vorhandene Texte, Bilder, Audio- oder Videoinhalte. Eine freiwillige nachträgliche Kennzeichnung kann aus Transparenzgründen sinnvoll sein, ist aber nicht generell gesetzlich vorgeschrieben.
Entscheidend bleibt die spätere Verwendung. Wird ein älterer Inhalt ab dem 2. August 2026 neu veröffentlicht oder in einem neuen Zusammenhang eingesetzt, kann der aktuelle Verwendungsvorgang unter Art. 50 Abs. 4 fallen. Das gilt insbesondere, wenn der Inhalt als Deepfake erscheint oder als KI-generierter Text zur Information der Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse veröffentlicht wird.
Für generative KI-Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, gilt nach den aktuellen Vorgaben eine begrenzte Übergangsfrist bis zum 2. Dezember 2026. Sie betrifft ausschließlich die technische Markierungs- und Erkennungspflicht des Anbieters nach Art. 50 Abs. 2. Andere einschlägige Transparenzpflichten sind davon nicht pauschal erfasst.
Öffentliche Stellen
Was bedeutet die Kennzeichnungspflicht für Kommunen?
Kommunen können Art. 50 insbesondere bei Chatbots, automatisierten Auskunftssystemen, KI-generierten Bürgerinformationen und synthetischen Medieninhalten betreffen. Die bloße Nutzung eines Schreibassistenten in der Verwaltung löst dagegen nicht automatisch eine sichtbare Kennzeichnung jedes fertigen Schreibens aus.
Bei öffentlichen Informationsbeiträgen ist sorgfältig zu prüfen, ob die Veröffentlichung Angelegenheiten von öffentlichem Interesse betrifft. Erfolgt eine belastbare menschliche und redaktionelle Kontrolle und übernimmt die Kommune die redaktionelle Verantwortung, kann die gesetzliche Ausnahme für Texte eingreifen.
Für die Praxis empfiehlt sich eine interne Freigaberegelung: KI-generierte Entwürfe sollten fachlich geprüft, Quellen verifiziert, Verantwortlichkeiten dokumentiert und veröffentlichte Inhalte auf mögliche Transparenzpflichten eingeordnet werden. Datenschutzrechtliche Anforderungen an die eingesetzten Dienste bleiben davon unberührt.
Praxisfälle
Typische Beispiele zur Kennzeichnungspflicht
Ein Hinweis auf die KI-Interaktion ist regelmäßig erforderlich, sofern der KI-Charakter nicht bereits offensichtlich ist.
Keine automatische Betreiberkennzeichnung nach Art. 50, solange das Bild nicht als täuschend echter Deepfake einzuordnen ist.
Ein realitätsnahes, KI-manipuliertes Video einer realen Person ist grundsätzlich als künstlich erzeugt oder manipuliert offenzulegen.
Bei Veröffentlichung zu einem Thema von öffentlichem Interesse ist die Textpflicht zu prüfen. Eine echte redaktionelle Kontrolle kann die Ausnahme eröffnen.
Keine Kennzeichnung allein wegen KI-unterstützter Codeerstellung. Enthält die Software selbst ein KI-System, ist dessen Funktion gesondert zu bewerten.
Art. 50 begründet grundsätzlich keine pauschale Pflicht, einen KI-unterstützt formulierten internen Text zu kennzeichnen.
Gestaltung
Wie sollte eine erforderliche Kennzeichnung erfolgen?
Die Offenlegung muss klar und unterscheidbar erfolgen. Sie ist spätestens zum Zeitpunkt der ersten Interaktion oder Exposition bereitzustellen. Außerdem muss sie die Anforderungen an Barrierefreiheit erfüllen.
Geeignete Hinweise können je nach Fall lauten: „Sie interagieren mit einem KI-System“, „Dieses Bild wurde künstlich erzeugt“ oder „Dieses Video wurde mithilfe künstlicher Intelligenz manipuliert“. Eine starre Formulierung schreibt Art. 50 nicht für alle Fälle vor.
Die Europäische Kommission stellt freiwillig nutzbare Symbole und einen Verhaltenskodex bereit. Die Verwendung eines Symbols allein begründet jedoch nicht automatisch Rechtskonformität. Inhalt, Platzierung, Zeitpunkt und Wahrnehmbarkeit müssen zum konkreten Einsatz passen.
Abgrenzung
Welche Fehlannahmen treten häufig auf?
Die häufigste Fehlannahme lautet, jeder KI-generierte Inhalt müsse sichtbar gekennzeichnet werden. Art. 50 ist deutlich differenzierter. Ebenso falsch ist die Annahme, eine menschliche Bearbeitung beseitige immer jede Transparenzpflicht.
Auch Anbieter- und Betreiberpflichten werden häufig vermischt. Maschinenlesbare Markierungen des Systems und sichtbare Offenlegungen bei einer Veröffentlichung sind unterschiedliche Anforderungen mit unterschiedlichen Adressaten.
Schließlich darf die fehlende Kennzeichnungspflicht nicht mit einer uneingeschränkten rechtlichen Zulässigkeit verwechselt werden. Datenschutz, Persönlichkeitsrechte, Urheberrecht, Wettbewerbsrecht und dienstrechtliche Vorgaben können unabhängig von Art. 50 Grenzen setzen.
Umsetzung
Prüfcheckliste für Unternehmen und öffentliche Stellen
Rolle bestimmen: Handelt die Organisation als Anbieter oder als Betreiber des KI-Systems?
Funktion erfassen: Interagiert das System unmittelbar mit Menschen oder erzeugt es synthetische Inhalte?
Inhalt einordnen: Liegt ein täuschend echter Deepfake oder ein Text zu einer Angelegenheit von öffentlichem Interesse vor?
Ausnahmen prüfen: Ist der KI-Einsatz offensichtlich oder besteht eine belastbare menschliche redaktionelle Kontrolle mit Verantwortungsübernahme?
Hinweis gestalten: Kennzeichnung klar, rechtzeitig, barrierefrei und dem Medium angemessen platzieren.
Nachweis führen: Prüfung, Freigabe, Verantwortlichkeit und technische Umsetzung nachvollziehbar dokumentieren.
Ergebnis
Fazit
Art. 50 AI Act begründet keine pauschale Kennzeichnungspflicht für alles, was mit künstlicher Intelligenz erstellt wurde. Die Vorschrift erfasst bestimmte KI-Interaktionen, technische Anbieterpflichten sowie die Veröffentlichung von Deepfakes und bestimmten Texten zu Angelegenheiten von öffentlichem Interesse.
Für eine belastbare Entscheidung müssen Rolle, Systemfunktion, Inhalt, Veröffentlichungszweck und mögliche Ausnahmen gemeinsam geprüft werden. Die Pflichten gelten ab dem 2. August 2026. Eine begrenzte Übergangsfrist bis zum 2. Dezember 2026 besteht nur für die technische Pflicht nach Art. 50 Abs. 2 bei bestimmten bereits bestehenden generativen KI-Systemen; vor dem 2. August 2026 erzeugte Inhalte sind nicht allgemein rückwirkend zu kennzeichnen.
Häufige Fragen
FAQ zur Kennzeichnungspflicht für KI
Ab wann gilt die Kennzeichnungspflicht nach dem AI Act?
Art. 50 AI Act gilt ab dem 2. August 2026. Eine begrenzte Übergangsfrist bis zum 2. Dezember 2026 besteht nur für die technische Markierungs- und Erkennungspflicht nach Art. 50 Abs. 2 bei bestimmten generativen KI-Systemen, die bereits vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden.
Muss jeder mit ChatGPT erstellte Text gekennzeichnet werden?
Nein. Art. 50 AI Act enthält keine allgemeine Kennzeichnungspflicht für sämtliche KI-generierten Texte. Erfasst werden insbesondere bestimmte Veröffentlichungen zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse.
Muss jedes KI-generierte Bild gekennzeichnet werden?
Nein. Die Betreiberpflicht betrifft insbesondere Deepfakes, also realitätsnahe künstliche oder manipulierte Inhalte, die fälschlicherweise als echt oder wahr erscheinen können.
Muss ein Chatbot als KI erkennbar sein?
Grundsätzlich ja, sofern die Tatsache, dass eine Person mit einem KI-System interagiert, nicht bereits aus Sicht einer angemessen informierten und aufmerksamen Person offensichtlich ist.
Muss mit KI programmierte Software gekennzeichnet werden?
Nein. Allein die KI-unterstützte Erstellung von Quellcode löst keine sichtbare Kennzeichnungspflicht aus. Enthält die Software selbst ein KI-System, sind dessen Funktionen gesondert zu prüfen.
Reicht eine menschliche Kontrolle immer aus?
Nein. Die Ausnahme für bestimmte Texte setzt ein Verfahren menschlicher Überprüfung oder redaktioneller Kontrolle und die Übernahme redaktioneller Verantwortung voraus. Sie gilt nicht pauschal für alle Transparenzpflichten.
Müssen vor dem 2. August 2026 erstellte Inhalte nachträglich gekennzeichnet werden?
Nein, nicht allgemein. Nach den aktuellen Hinweisen der Europäischen Kommission besteht keine rückwirkende Kennzeichnungspflicht allein aufgrund der früheren Erstellung. Bei einer neuen Veröffentlichung oder Nutzung ab dem 2. August 2026 ist jedoch zu prüfen, ob der konkrete Einsatz unter Art. 50 fällt.
Rechtlicher Hinweis
Keine Rechtsberatung
Dieser Beitrag dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung dar. Die rechtliche Bewertung hängt von den Umständen des jeweiligen Einzelfalls ab und ist individuell vorzunehmen. Eine persönliche rechtliche Beratung wird durch diesen Beitrag nicht ersetzt.
Weiterlesen
Passende interne Verlinkung
Nachweise
Quellen
KI rechtssicher und nachvollziehbar einsetzen?
Die Beiträge vermitteln allgemeine Orientierung und ersetzen keine individuelle rechtliche Prüfung. Die Compliance Werkstatt unterstützt Unternehmen, Kommunen und öffentliche Stellen bei der strukturierten Einordnung von KI-Anwendungen, Zuständigkeiten und Compliance-Anforderungen.
Unverbindlich anfragen