Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Recht

Kennzeichnungs­pflicht für KI-Inhalte

Kurzantwort

Die Kennzeichnungspflicht steht in Artikel 50 der KI-Verordnung und gilt seit dem 02.08.2026⁠1. Anbieter müssen Chatbots erkennbar machen und erzeugte Bilder, Töne, Videos und Texte maschinenlesbar markieren, Betreiber müssen Deepfakes und bestimmte Texte offenlegen⁠1. Für generative Systeme, die vor dem 02.08.2026 auf den Markt kamen, läuft die Frist für die Markierung bis zum 02.12.2026⁠2.

Autor
Veröffentlicht
Geprüft
Lesezeit
9 Minuten
Hölzernes Siegelwerkzeug mit leerer runder Gummifläche über einem Landschaftsfoto und einem leeren Blatt auf einem hellen Schreibtisch
Artikel 50 regelt, wann KI-Inhalte gekennzeichnet werden müssen. Bild: KI-generiert

Eine allgemeine Pflicht, alles zu kennzeichnen, was mit KI entstanden ist, kennt der AI Act nicht. Artikel 50 der Verordnung (EU) 2024/1689 verteilt die Transparenzpflichten auf Anbieter und Betreiber und knüpft sie an bestimmte Fälle: das Gespräch mit einem Chatbot, synthetische Inhalte, Deepfakes, Texte zu Themen von öffentlichem Interesse und die Erkennung von Emotionen⁠1. Seit dem 02.08.2026 sind diese Pflichten anwendbar, die Aufsicht in Deutschland liegt in der Regel bei der Bundesnetzagentur⁠17.

Wer was kennzeichnen muss

Ob du kennzeichnen musst, hängt an deiner Rolle. Wer ein System entwickelt und unter eigenem Namen vertreibt, gilt als Anbieter, wer es beruflich nutzt, als Betreiber⁠1. Die Bundesnetzagentur ordnet die Absätze von Artikel 50 so zu⁠3:

  • Absatz 1, Anbieter: KI-Systeme, die direkt mit Menschen interagieren, so gestalten, dass die Menschen erfahren, dass sie mit einer KI sprechen.
  • Absatz 2, Anbieter: erzeugte Audio-, Bild-, Video- und Textinhalte in einem maschinenlesbaren Format als künstlich erzeugt oder verändert markieren.
  • Absatz 3, Betreiber: Menschen informieren, wenn ein System ihre Emotionen erkennt oder sie anhand biometrischer Daten Kategorien zuordnet.
  • Absatz 4, Betreiber: Deepfakes offenlegen und veröffentlichte Texte zu Angelegenheiten von öffentlichem Interesse offenlegen, wenn kein Mensch redaktionell verantwortlich ist.
Matrix: wer bei Chatbots, synthetischen Inhalten, Emotionserkennung, Deepfakes und Texten von öffentlichem Interesse was kennzeichnen muss
  1. Anbieter dunkle Zeilen
  2. Betreiber helle Zeilen
Wer muss was kennzeichnen: Artikel 50 der KI-Verordnung. Grafik: KI-Blog

Das Lexikon erklärt die Rollen unter Anbieter und Betreiber. Wer privat ein Bild erzeugt und teilt, ist weder Anbieter noch Betreiber; für die rein persönliche, nicht berufliche Nutzung gelten die Betreiberpflichten nicht⁠1.

Chatbots und Sprachassistenten

Ein Chatbot muss so gebaut sein, dass Menschen erfahren, dass sie mit einem KI-System interagieren (Artikel 50 Absatz 1)⁠1. Die Pflicht entfällt, wenn das für eine angemessen informierte, aufmerksame und verständige Person aus den Umständen ohnehin offensichtlich ist⁠1. Nach der Leitlinie der Kommission, die die Bundesnetzagentur auf Deutsch zusammenfasst, muss der Hinweis vor der ersten Interaktion erscheinen; reine Formulierungen in den Nutzungsbedingungen genügen nicht⁠4.

Die Pflicht trifft den Anbieter des Chatbots. Wer als Betrieb einen fertigen Chatbot auf der eigenen Website einbindet, sollte trotzdem prüfen, ob der Hinweis erscheint, und ihn notfalls selbst ergänzen. Wer einen Chatbot selbst baut und unter eigenem Namen betreibt, ist Anbieter und muss die Pflicht selbst erfüllen⁠1.

Technische Markierung synthetischer Inhalte

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben in einem maschinenlesbaren Format markieren, sodass sie als künstlich erzeugt oder verändert erkennbar sind (Artikel 50 Absatz 2)⁠1. Das gilt ausdrücklich auch für KI-Systeme mit allgemeinem Verwendungszweck, also für große Chat- und Bilddienste⁠1. Die technischen Lösungen sollen wirksam, interoperabel, belastbar und zuverlässig sein, soweit das technisch möglich ist⁠1.

Als Mittel nennt die Leitlinie unter anderem Wasserzeichen, Metadaten, kryptografische Herkunftsnachweise, Protokollierung und Fingerprints; sichtbare Hinweise sind zusätzlich erlaubt⁠4. Anbieter sollen außerdem Werkzeuge bereitstellen, mit denen sich die Markierung erkennen lässt⁠4. Ein verbreiteter Standard für Herkunftsangaben in Metadaten ist C2PA.

Ausgenommen sind Systeme, die nur eine unterstützende Funktion bei der Standardbearbeitung haben oder die Eingaben und ihre Bedeutung nicht wesentlich verändern⁠1. Die Leitlinie nennt als Beispiele Rechtschreibkorrektur und Übersetzung; Zusammenfassungen oder ein Gesichtstausch verändern die Bedeutung und fallen unter die Pflicht⁠4.

Diese Pflicht liegt beim Anbieter. Wer als Nutzer ein Bild mit einem Generator erzeugt, muss keine Wasserzeichen einbetten. Er darf eine vorhandene Markierung aber auch nicht absichtlich entfernen, wenn der Anbieter das in seinen Nutzungsbedingungen verbietet, wie es der Praxisleitfaden der EU vorsieht⁠5.

Deepfakes

Ein Deepfake ist nach Artikel 3 Nummer 60 ein durch KI erzeugter oder veränderter Bild-, Ton- oder Videoinhalt, der echten Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich als echt erscheinen würde⁠1. Betreiber, die solche Inhalte erzeugen oder verändern, müssen offenlegen, dass sie künstlich erzeugt oder verändert sind (Artikel 50 Absatz 4)⁠1. Im Lexikon steht der Begriff unter Deepfake.

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gilt eine abgeschwächte Pflicht: Es genügt, das Vorhandensein solcher Inhalte in geeigneter Weise offenzulegen, ohne die Darstellung oder den Genuss des Werks zu beeinträchtigen⁠1. Für nicht digitale Kanäle wie Ausstellungen, Kinos oder Festivals nennt der Praxisleitfaden Hinweise am Zugangspunkt oder in begleitenden Informationen, etwa auf Handzetteln oder Eintrittskarten⁠5.

Ein Fantasiebild, das niemand für echt halten würde, ist kein Deepfake. Ein fotorealistisches Werbebild mit einer erfundenen Person in einer echten Stadt kann dagegen einer sein, weil es einen echten Ort zeigt und echt wirkt. Hier ist die Grenze fließend, und eine Kennzeichnung schadet selten. Unabhängig von der Kennzeichnung sind ab dem 02.12.2026 Systeme verboten, die ohne Zustimmung realistische intime Darstellungen bestimmbarer Personen erzeugen⁠1. Ob Herstellen und Verbreiten strafbar sein können, regeln andere Gesetze als der AI Act.

Zwei gleiche Theatermasken aus Porzellan nebeneinander auf dunklem Samt, dazwischen eine kleine Lupe
Deepfakes wirken echt und müssen deshalb offengelegt werden. Bild: KI-generiert

Texte von öffentlichem Interesse

Für Texte gilt eine engere Regel. Betreiber, die mit KI erzeugte oder veränderte Texte veröffentlichen, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen das offenlegen (Artikel 50 Absatz 4)⁠1. Die Pflicht entfällt, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt⁠1.

Gemeint sind vor allem Nachrichten und Berichte über Politik, Gesundheit oder Umwelt⁠4. Eine Produktbeschreibung im Onlineshop, eine Werbeanzeige oder eine interne E-Mail sind in der Regel keine Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Was genau darunter fällt, definiert die Verordnung nicht; die Leitlinie der Kommission legt den Begriff aus, ist aber nicht verbindlich⁠46. Für Medienhäuser sieht der Praxisleitfaden vor, dass verantwortliche Personen benannt werden, wenn die redaktionelle Verantwortung die Kennzeichnung ersetzen soll⁠5.

Wer KI beim Schreiben nutzt, jeden Text vor der Veröffentlichung selbst prüft und als Verfasser oder Unternehmen dafür einsteht, fällt damit in der Regel unter die Ausnahme. Den Prüfschritt solltest du dokumentieren.

Emotionserkennung und biometrische Kategorisierung

Wer ein System betreibt, das Emotionen erkennt oder Menschen anhand biometrischer Daten Kategorien zuordnet, muss die betroffenen Personen über den Betrieb informieren (Artikel 50 Absatz 3)⁠1. Die Datenverarbeitung richtet sich zusätzlich nach der Datenschutz-Grundverordnung⁠13. Am Arbeitsplatz und in Bildungseinrichtungen ist Emotionserkennung seit dem 02.02.2025 verboten, außer aus medizinischen oder Sicherheitsgründen⁠1.

Sechs Fälle aus dem Alltag

Die Einordnung dieser Situationen ist vereinfacht und ersetzt keine Prüfung im Einzelfall.

  • Ein Online-Shop zeigt Produktfotos, deren Hintergrund ein Bildgenerator ergänzt hat. Das Produkt ist echt, die Szene künstlich. Wirkt das Bild wie ein echtes Foto eines echten Ortes, spricht viel für einen Hinweis; ein klar gestalteter Fantasiehintergrund ist kein Deepfake⁠1.
  • Ein Verein erzeugt für sein Plakat eine Comic-Figur. Niemand hält sie für echt, eine Offenlegungspflicht nach Artikel 50 besteht nicht⁠1.
  • Eine Partei veröffentlicht ein realistisches Video, in dem ein Konkurrent etwas sagt, was er nie gesagt hat. Das ist ein Deepfake und muss offengelegt werden; ob es außerdem rechtswidrig ist, regeln andere Gesetze⁠1.
  • Eine Lokalzeitung lässt Polizeimeldungen von einer KI vorformulieren und veröffentlicht sie ungeprüft. Hier greift die Offenlegungspflicht für Texte von öffentlichem Interesse. Prüft eine Redakteurin jede Meldung und trägt die Zeitung die Verantwortung, entfällt sie⁠1.
  • Ein Handwerksbetrieb setzt auf seiner Website einen Chatbot ein, der Termine vereinbart. Der Anbieter muss den Chatbot so bauen, dass er sich als KI zu erkennen gibt; der Betrieb prüft, ob das sichtbar ist⁠1.
  • Ein Fitnessstudio misst mit Kameras die Stimmung seiner Kundschaft. Die Kundinnen und Kunden müssen über die Emotionserkennung informiert werden; bei den eigenen Beschäftigten wäre sie verboten⁠1.

Wann und wie der Hinweis erscheinen muss

Alle Informationen nach den Absätzen 1 bis 4 müssen den Betroffenen spätestens bei der ersten Interaktion oder Begegnung klar und eindeutig gegeben werden und den Anforderungen an Barrierefreiheit entsprechen (Artikel 50 Absatz 5)⁠1. Bei Live-Inhalten soll der Hinweis nach der Leitlinie wiederholt werden⁠4.

Der freiwillige Praxisleitfaden der EU sieht für Deepfakes und veröffentlichte Texte ein EU-Symbol mit dem Kürzel "AI" vor⁠5. Wie du Hinweise auf Website, Instagram, LinkedIn und YouTube umsetzt, steht Schritt für Schritt in der Praxisanleitung.

Ab wann die Kennzeichnungspflicht gilt

Die Transparenzpflichten gelten seit dem 02.08.2026, dem allgemeinen Geltungsbeginn der Verordnung⁠16. Für die technische Markierung nach Absatz 2 gibt es eine Übergangsfrist. Sie steht in Artikel 111 Absatz 4, eingefügt durch Artikel 1 Nummer 39 Buchstabe b der Verordnung (EU) 2026/1744 vom 08.07.2026, veröffentlicht im Amtsblatt am 24.07.2026 und in Kraft seit dem 27.07.2026⁠2. Für Systeme, die vor dem 02.08.2026 in Verkehr gebracht wurden, haben die Anbieter danach bis zum 02.12.2026 Zeit, Artikel 50 Absatz 2 umzusetzen. Im Wortlaut:

"treffen die erforderlichen Maßnahmen, um Artikel 50 Absatz 2 bis zum 2. Dezember 2026 nachzukommen."

Artikel 111 Absatz 4 der Verordnung (EU) 2024/1689 in der Fassung der Verordnung (EU) 2026/1744⁠2

Erwägungsgrund 38 der Änderungsverordnung begründet das als Übergangszeit von vier Monaten⁠2. Für alle anderen Pflichten aus Artikel 50 gibt es keine Übergangsfrist.

  1. Praxisleitfaden veröffentlicht

    Freiwilliger Leitfaden zur Transparenz KI-erzeugter Inhalte.

    gilt
  2. Leitlinien der Kommission

    Unverbindliche Auslegung von Artikel 50, aktualisiert am 05.11.2026.

    gilt
  3. Übergangsfrist eingefügt

    Verordnung (EU) 2026/1744 fügt Artikel 111 Absatz 4 ein.

    gilt
  4. Artikel 50 gilt

    Transparenzpflichten für Anbieter und Betreiber sind anwendbar.

    gilt
  5. Frist für ältere generative Systeme

    Maschinenlesbare Markierung nach Artikel 50 Absatz 2 für Systeme vor dem 02.08.2026.

    kommt
  6. Wasserzeichen interoperabel

    Mindest-Interoperabilität für Unterzeichner des Praxisleitfadens.

    kommt
Zeitleiste zur Kennzeichnungspflicht von Februar 2025 bis Februar 2027 mit acht Terminen
  1. Gefüllt gilt
  2. Ring kommt
Fristen und Dokumente zu Artikel 50. Grafik: KI-Blog

Leitlinie und Praxisleitfaden

Zur Auslegung hat die Kommission am 20.07.2026 Leitlinien zu den Transparenzpflichten veröffentlicht, zuletzt aktualisiert am 05.11.2026⁠6. Die Bundesnetzagentur stellt auf ihrer Website eine deutsche Zusammenfassung bereit und weist darauf hin, dass die Leitlinie nicht verbindlich ist⁠4. Verbindlich ist Artikel 50 selbst.

Daneben gibt es den Praxisleitfaden zur Transparenz KI-erzeugter Inhalte, erarbeitet von unabhängigen Fachleuten in einem Verfahren unter Leitung des EU-Büros für Künstliche Intelligenz⁠5. Er wurde am 10.06.2026 veröffentlicht und von der Kommission am 09.07.2026 als angemessen bewertet⁠5. Die Anwendung ist freiwillig. Unterzeichner weisen mit seinen Maßnahmen nach, dass sie ihre Pflichten erfüllen; wer nicht unterzeichnet, muss selbst belegen, dass seine Lösung angemessen ist⁠5. Eine Vermutung der Konformität begründet der Leitfaden nach Erwägungsgrund 41 der Änderungsverordnung nicht⁠2.

Aufsicht und Bußgelder

In Deutschland überwacht die Bundesnetzagentur die Transparenzpflichten in ihren Zuständigkeitsbereichen; bei Finanzunternehmen ist es die BaFin, bei Mediendiensten die Behörden nach Landesrecht⁠7. Für Verstöße gegen Artikel 50 liegt die Obergrenze der Geldbuße bei 15 Millionen Euro oder, wenn das mehr ist, bei 3 Prozent des weltweiten Umsatzes; kleine und mittlere Unternehmen trifft der niedrigere Wert⁠1. Wie die Behörde innerhalb dieses Rahmens bemisst, steht bei den Bußgeldern nach dem AI Act. Wer einen Verstoß vermutet, etwa einen nicht gekennzeichneten Deepfake, kann sich bei der Bundesnetzagentur beschweren⁠7.

Was noch offen ist

Ob neue Versionen eines älteren Systems noch unter die Übergangsfrist fallen, lässt Artikel 111 Absatz 4 offen; der Zeitplan des AI Act geht darauf ein⁠2. Für Betreiber wiegt eine andere Lücke schwerer: Der Begriff "Angelegenheiten von öffentlichem Interesse" bleibt offen, bis Behörden oder Gerichte ihn ausfüllen. Ob ein Firmenblog oder ein Newsletter darunter fällt, kann deshalb im Moment niemand sicher sagen; bei Texten mit politischem oder gesellschaftlichem Bezug lohnt eine anwaltliche Einschätzung. Eine verbindliche Auslegung kann am Ende nur der Gerichtshof der Europäischen Union liefern⁠3.

Was das für dich heißt

Als Betrieb musst du vor allem Deepfakes offenlegen und darauf achten, dass deine Chatbots sich als KI zu erkennen geben.

  1. Geh deine veröffentlichten KI-Bilder und Videos durch und kennzeichne alles, was echt wirkt und echte Personen, Orte oder Ereignisse zeigt.
  2. Halte fest, wer KI-gestützte Texte vor der Veröffentlichung prüft und verantwortet.
  3. Frag die Anbieter deiner Werkzeuge, wie sie die maschinenlesbare Markierung umsetzen.
  4. Entferne keine Metadaten oder Wasserzeichen aus erzeugten Dateien.

Häufige Fragen

Ab wann gilt die KI-Kennzeichnungspflicht?

Seit dem 02.08.2026. Eine Übergangsfrist bis zum 02.12.2026 gibt es nur für die technische Markierung bei Systemen, die schon vor diesem Tag auf dem Markt waren.

Muss ich KI-Bilder auf meiner Website kennzeichnen?

Pflicht ist es bei Deepfakes, also bei Bildern, die echte Personen, Orte oder Ereignisse zeigen und echt wirken. Für ein erkennbar künstliches Motiv schreibt Artikel 50 keine Offenlegung durch den Betreiber vor. Viele Betriebe kennzeichnen trotzdem alle KI-Bilder, weil das Missverständnisse vermeidet.

Muss ich Texte kennzeichnen, bei denen mir eine KI geholfen hat?

Nur veröffentlichte Texte, die über Angelegenheiten von öffentlichem Interesse informieren, und auch die nicht, wenn ein Mensch sie geprüft hat und jemand die redaktionelle Verantwortung trägt.

Reicht ein Wasserzeichen des Bildgenerators?

Die maschinenlesbare Markierung ist Pflicht des Anbieters. Für dich als Betreiber ersetzt sie bei einem Deepfake nicht die sichtbare Offenlegung nach Artikel 50 Absatz 4, denn Menschen können ein unsichtbares Wasserzeichen nicht erkennen.

Gibt es eine Leitlinie der Bundesnetzagentur zur Kennzeichnung?

Die Bundesnetzagentur fasst die Leitlinie der Kommission zu Artikel 50 auf Deutsch zusammen und erklärt den Praxisleitfaden. Eine eigene, abweichende Leitlinie der Behörde haben wir nicht gefunden.

Keine Rechtsberatung. Der Beitrag gibt den Stand vom 22.11.2026 wieder. Lass deinen eigenen Fall fachkundig prüfen.

Quellen

Stand:

  1. EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27.07.2026, Stand 27.07.2026, abgerufen am 22.11.2026. zurück
  2. EUR-Lex: Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), ABl. L vom 24.07.2026, Stand 24.07.2026, abgerufen am 22.11.2026. zurück
  3. Bundesnetzagentur: Transparenzpflichten nach Artikel 50 KI-VO, Stand 2026, abgerufen am 22.11.2026. zurück
  4. Bundesnetzagentur: Leitlinie zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen, Stand 2026, abgerufen am 22.11.2026. zurück
  5. Bundesnetzagentur: Praxisleitfaden zur Transparenz KI-generierter Inhalte, Stand 2026, abgerufen am 22.11.2026. zurück
  6. Europäische Kommission: Leitlinien zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen, Stand 05.11.2026, abgerufen am 22.11.2026. zurück
  7. Bundesgesetzblatt (recht.bund.de): Gesetz zur Durchführung der Verordnung über künstliche Intelligenz, BGBl. 2026 I Nr. 223, Stand 28.07.2026, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert

Aus dem Lexikon

Bilder: KI-generiert