Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Recht

Der EU AI Act

Kurzantwort

Der EU AI Act ist die Verordnung (EU) 2024/1689 über künstliche Intelligenz⁠3. Er ordnet KI-Systeme nach ihrem Risiko ein und legt fest, was Anbieter und Betreiber jeweils tun müssen. Die Pflichten greifen in Stufen, die Hochrisiko-Regeln erst ab dem 02.12.2027⁠12. In Deutschland wacht seit dem 29.07.2026 vor allem die Bundesnetzagentur über die Einhaltung⁠4.

Autor
Veröffentlicht
Geprüft
Lesezeit
10 Minuten
Dicke Akte mit bunten Registern und dunkelblauem Einband auf einem Schreibtisch aus Nussbaum, daneben eine zusammengeklappte Lesebrille
Die KI-Verordnung gilt in allen Mitgliedstaaten unmittelbar. Bild: KI-generiert

Hinter dem Kürzel EU AI Act steht ein Gesetz, das in allen Mitgliedstaaten unmittelbar gilt, ohne dass es in nationales Recht übertragen werden muss: die KI-Verordnung der Europäischen Union vom 13.06.2024, im Amtsblatt veröffentlicht am 12.07.2024⁠3. Sie verbietet einige Anwendungen ganz, stellt an riskante Systeme hohe Anforderungen und verlangt bei Chatbots und erzeugten Inhalten Transparenz. Für die meisten Programme im Büroalltag bleibt es bei der Pflicht, die eigenen Leute im Umgang mit KI zu schulen.

Ziel und Aufbau der KI-Verordnung

Die Verordnung soll vertrauenswürdige KI fördern und zugleich Gesundheit, Sicherheit und Grundrechte schützen⁠8. Seit dem 01.08.2024 ist sie in Kraft, angewendet wird sie schrittweise⁠5. Wer in der EU KI-Systeme entwickelt, verkauft oder einsetzt, fällt grundsätzlich darunter, also Anbieter, Betreiber, Einführer, Händler und Bevollmächtigte⁠8.

Was als KI-System gilt, steht in Artikel 3 Nummer 1: ein maschinengestütztes System, das mit einem gewissen Grad an Autonomie arbeitet und aus Eingaben Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen ableitet⁠1. Eine Tabellenkalkulation mit festen Formeln erfüllt das in der Regel nicht, ein Chatbot oder ein Bildgenerator schon. Ausgenommen sind unter anderem Systeme, die nur militärischen Zwecken dienen, reine Forschung und Entwicklung vor dem Markteintritt und die rein private Nutzung durch Einzelpersonen⁠1. Freie und quelloffene Systeme sind ebenfalls ausgenommen, außer sie fallen unter die Verbote, die Hochrisiko-Regeln oder die Transparenzpflichten⁠1.

Aufgebaut ist der Text nach Kapiteln. Kapitel I enthält die allgemeinen Regeln mit den Begriffen und der Pflicht zur KI-Kompetenz, Kapitel II die verbotenen Praktiken, Kapitel III die Hochrisiko-Systeme und Kapitel V die Modelle mit allgemeinem Verwendungszweck⁠1. Weitere Kapitel regeln die Aufsicht, die Reallabore und die Sanktionen. Am ausführlichsten geregelt sind die Hochrisiko-Systeme mit ihren Anforderungen: Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Cybersicherheit, dazu Konformitätsbewertung und Registrierung in einer EU-Datenbank⁠1. Dazu kommen Anhänge, etwa Anhang I mit den EU-Produktvorschriften und Anhang III mit den Hochrisiko-Bereichen.

Vier Risikostufen in Kurzform

Je höher das Risiko, desto strenger die Regeln. Die Bundesnetzagentur beschreibt das als vier Stufen⁠7:

  • Unannehmbares Risiko: Social Scoring, manipulative Systeme oder Emotionserkennung am Arbeitsplatz sind seit dem 02.02.2025 verboten⁠17.
  • Hohes Risiko: KI als Sicherheitsbauteil von Produkten wie Medizingeräten oder Spielzeug und KI in Bereichen wie Personalauswahl, Bildung oder Kreditvergabe⁠17.
  • Begrenztes Risiko: Chatbots und Systeme, die Text, Bild oder Ton erzeugen. Hier gelten Transparenzpflichten⁠7.
  • Minimales Risiko: etwa ein Spamfilter, ohne besondere Pflichten aus der Verordnung⁠7.
Pyramide mit vier Stufen: verboten, hohes Risiko, begrenztes Risiko und minimales Risiko, jeweils mit Beispielen und Datum
  1. Rot verboten
  2. Dunkel hohes Risiko
  3. Hell Transparenz
  4. Papier minimal
Die vier Risikostufen der KI-Verordnung mit Beispielen und Geltungsbeginn. Grafik: KI-Blog

Die Stufen schließen sich nicht in jedem Fall aus. Ein Hochrisiko-System, das mit Menschen chattet, muss die Hochrisiko-Anforderungen erfüllen und zusätzlich die Transparenzpflichten⁠7. Und auch im untersten Bereich bleibt die Pflicht zur KI-Kompetenz nach Artikel 4, denn sie hängt an der Rolle als Anbieter oder Betreiber und an keiner Risikostufe⁠1.

Die Stufen beziehen sich auf KI-Systeme. Große Sprachmodelle und andere Modelle mit allgemeinem Verwendungszweck haben eigene Regeln, für sehr leistungsfähige Modelle mit systemischem Risiko kommen weitere Pflichten dazu⁠17. Woran du erkennst, in welche Stufe ein System fällt, und welche Grenzfälle es gibt, zeigt die Seite zu den Risikoklassen mit Beispielen.

Anbieter, Betreiber und die übrigen Rollen

Fast jede Pflicht hängt an einer Rolle. Anbieter ist, wer ein KI-System oder ein Modell entwickelt oder entwickeln lässt und unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, entgeltlich oder kostenlos⁠1. Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet, solange das nicht in rein persönlicher, nicht beruflicher Tätigkeit geschieht⁠1. Ein Handwerksbetrieb, der einen Chatbot auf seiner Website einsetzt, ist danach Betreiber. Das Softwarehaus, das diesen Chatbot verkauft, ist Anbieter. Mehr zur Abgrenzung steht im Lexikon unter Anbieter und Betreiber.

Die Rollen können wechseln. Wer ein fremdes Hochrisiko-System mit dem eigenen Namen versieht, es wesentlich verändert oder ein gewöhnliches System so umwidmet, dass es zum Hochrisiko-System wird, gilt nach Artikel 25 selbst als Anbieter⁠1. Was Betriebe als Betreiber konkret tun müssen und wann sie zum Anbieter werden, haben wir in einer Übersicht der Pflichten für Unternehmen zusammengestellt.

Daneben kennt die Verordnung Einführer, die Systeme aus Drittstaaten in die EU bringen, Händler und Bevollmächtigte von Anbietern ohne Sitz in der EU⁠8. Für private Nutzerinnen und Nutzer gilt keine dieser Rollen, die Bundesnetzagentur hält das in ihren Antworten auf häufige Fragen ausdrücklich fest⁠6.

Allzweckmodelle: eigene Regeln für GPT, Gemini und Co.

Die großen Sprach- und Bildmodelle passten in das ursprüngliche Raster aus Risikostufen schlecht, weil ein solches Modell für fast jeden Zweck eingesetzt werden kann. Die Verordnung nennt sie KI-Modelle mit allgemeinem Verwendungszweck. Gemeint ist ein Modell, das viele unterschiedliche Aufgaben kompetent erledigt und in zahlreiche nachgelagerte Systeme eingebaut werden kann, meist trainiert mit sehr großen Datenmengen⁠1. Im Lexikon steht der Begriff unter Foundation Model.

Die Pflichten aus Kapitel V treffen die Entwickler von Modellen wie GPT oder Gemini und gelten seit dem 02.08.2025⁠1. Kern ist Artikel 53: Dokumentation, eine Strategie zum Urheberrecht und eine öffentliche Zusammenfassung der Trainingsinhalte⁠1. Für besonders rechenstarke Modelle vermutet die Verordnung ein systemisches Risiko und verlangt nach Artikel 55 zusätzlich Prüfungen und Meldungen⁠1.

Für einen Betrieb, der ein solches Modell nutzt, zählt vor allem eine Folge davon. Der Modellanbieter muss den Anbietern nachgelagerter Systeme die Informationen und Unterlagen geben, die sie brauchen, um Fähigkeiten und Grenzen des Modells zu verstehen und ihre eigenen Pflichten zu erfüllen (Artikel 53 Absatz 1 Buchstabe b)⁠1. Wer ein Modell nur über ein Abo nutzt, wird dadurch nicht zum Anbieter eines Allzweckmodells. Baut ein Betrieb aber auf Basis des Modells ein eigenes Produkt und bietet es unter eigenem Namen an, ist er Anbieter dieses KI-Systems mit allen Pflichten, die zu dessen Risikostufe gehören⁠1. Auf die Unterlagen des Modellanbieters kann er sich dann bei der eigenen Dokumentation stützen.

Was heute schon gilt

Die Verordnung ist seit dem 02.08.2026 in weiten Teilen anwendbar⁠1. Stand 22.11.2026 gilt Folgendes:

  • Seit dem 02.02.2025 gelten die allgemeinen Vorschriften mit der Pflicht zur KI-Kompetenz und die Verbote nach Artikel 5⁠1.
  • Seit dem 02.08.2025 gelten die Regeln für Anbieter von Modellen mit allgemeinem Verwendungszweck, dazu die Vorschriften zu Behörden, Aufsicht und Sanktionen, mit Ausnahme der Geldbußen der Kommission nach Artikel 101⁠1.
  • Seit dem 02.08.2026 gelten die Transparenzpflichten nach Artikel 50 und alle übrigen Vorschriften, für die kein anderes Datum festgelegt ist⁠18.
  • Ab dem 02.12.2026 kommen zwei neue Verbote dazu, und Anbieter älterer generativer Systeme müssen bis dahin die technische Kennzeichnung nachrüsten⁠12.
  • Die Pflichten für Hochrisiko-Systeme nach Anhang III greifen ab dem 02.12.2027, für Hochrisiko-Systeme nach Anhang I ab dem 02.08.2028⁠1.
  1. KI-Verordnung tritt in Kraft

    Die Verordnung (EU) 2024/1689 ist in Kraft, angewendet wird sie in Stufen.

    gilt
  2. Verbote und KI-Kompetenz

    Kapitel I und II gelten, darunter Artikel 4 und die Verbote nach Artikel 5.

    gilt
  3. Allzweckmodelle und Aufsicht

    Pflichten für Anbieter von Allzweckmodellen, Behördenstruktur und Sanktionsregeln gelten.

    gilt
  4. Digital-Omnibus in Kraft

    Die Verordnung (EU) 2026/1744 ändert Fristen und Pflichten der KI-Verordnung.

    gilt
  5. KI-MIG in Kraft

    Die Bundesnetzagentur wird Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle.

    gilt
  6. Transparenzpflichten

    Artikel 50 und alle Vorschriften ohne eigenes Datum gelten.

    gilt
  7. Neue Verbote und Altsysteme

    Verbote nach Artikel 5 Absatz 1 Buchstaben ba und bb; Ende der Übergangsfrist nach Artikel 111 Absatz 4.

    kommt
  8. Hochrisiko nach Anhang III

    Pflichten für Hochrisiko-Systeme in Bereichen wie Personal, Bildung und Kredit.

    kommt
  9. Hochrisiko nach Anhang I

    Pflichten für KI als Sicherheitsbauteil in Produkten mit EU-Produktvorschriften.

    kommt

Für einen typischen Betrieb heißt das: Die Pflicht zur KI-Kompetenz läuft seit fast zwei Jahren, und seit dem 02.08.2026 müssen Menschen erkennen können, dass sie mit einem Chatbot sprechen, sofern das nicht ohnehin offensichtlich ist⁠1. Wer mit KI Deepfakes erzeugt und veröffentlicht, muss sie als künstlich erzeugt offenlegen⁠1. Hochrisiko-Pflichten betreffen dagegen nur Betriebe, die KI etwa zur Bewerberauswahl, zur Leistungsbewertung von Beschäftigten oder zur Prüfung der Kreditwürdigkeit einsetzen⁠1.

Jeden Stichtag mit Fundstelle und die Übergangsregeln für ältere Systeme listet der Zeitplan des AI Act auf.

Zeitleiste der KI-Verordnung von August 2024 bis August 2028 mit neun Stichtagen
  1. Gefüllt gilt
  2. Ring kommt
Die wichtigsten Termine des AI Act, Stand 22.11.2026. Grafik: KI-Blog

Der AI Omnibus: Änderungen durch die Verordnung (EU) 2026/1744

Im Sommer 2026 hat die EU den AI Act zum ersten Mal geändert. Die Verordnung (EU) 2026/1744 vom 08.07.2026, die Digital-Omnibus-Verordnung zur KI, erschien am 24.07.2026 im Amtsblatt und trat am dritten Tag danach in Kraft, also am 27.07.2026⁠2. Im Lexikon steht unter Digital Omnibus, wie das Paket entstanden ist.

Die wichtigsten Änderungen:

  • Die Hochrisiko-Pflichten kommen später. Als Grund nennt die Änderungsverordnung fehlende Normen und Leitlinien und Behörden, die noch nicht eingerichtet waren⁠2. Ursprünglich wären die Pflichten für Anhang III mit dem allgemeinen Geltungsbeginn am 02.08.2026 gekommen⁠2.
  • Neu verboten sind Systeme, die ohne Zustimmung realistische intime oder sexuelle Darstellungen bestimmbarer Personen erzeugen, und Systeme, die Darstellungen sexuellen Kindesmissbrauchs erzeugen. Diese Verbote gelten ab dem 02.12.2026⁠12.
  • Artikel 4 zur KI-Kompetenz ist neu gefasst. Anbieter und Betreiber müssen ihr Personal weiter mit Maßnahmen beim Kompetenzaufbau unterstützen; ein bestimmtes Niveau müssen sie für niemanden garantieren⁠12.
  • Wer ein generatives System schon vor dem 02.08.2026 auf den Markt gebracht hat, muss die maschinenlesbare Kennzeichnung bis zum 02.12.2026 nachrüsten (Artikel 111 Absatz 4)⁠2.
  • Für kleine Midcap-Unternehmen gilt bei Geldbußen jetzt wie schon für kleine und mittlere Unternehmen der jeweils niedrigere Betrag⁠12.

Für die Kennzeichnung von KI-Inhalten bringt der Omnibus vor allem die neue Übergangsfrist.

Aufsicht in Deutschland

Die Regeln für die Behörden stehen im Gesetz zur Durchführung der Verordnung über künstliche Intelligenz vom 22.07.2026 (BGBl. 2026 I Nr. 223). Sein Artikel 1 ist das KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz, kurz KI-MIG. Es trat am Tag nach der Verkündung in Kraft, am 29.07.2026⁠4.

Nach § 2 Absatz 1 KI-MIG ist die Bundesnetzagentur die zuständige Marktüberwachungsbehörde, soweit das Gesetz nichts anderes bestimmt⁠4. Ausnahmen gibt es einige. Die BaFin überwacht KI, die Banken, Versicherungen und andere Finanzunternehmen in direktem Zusammenhang mit ihrer regulierten Tätigkeit einsetzen. Bei Produkten wie Maschinen oder Medizinprodukten bleiben die bisherigen Produktbehörden zuständig, bei öffentlichen Stellen der Länder und bei Medien die Behörden nach Landesrecht⁠4. Die Bundesnetzagentur ist außerdem zentrale Anlaufstelle und zentrale Beschwerdestelle⁠45.

Beschweren kann sich jede natürliche oder juristische Person, die einen Verstoß gegen die Verordnung vermutet (Artikel 85)⁠1. In Deutschland geht das bei der Bundesnetzagentur als zentraler Beschwerdestelle; sie leitet die Beschwerde an eine andere Behörde weiter, wenn diese zuständig ist, und teilt dir das mit (§ 8 KI-MIG)⁠4.

Für Unternehmen bietet die Behörde einen KI-Service-Desk mit dem KI-Compliance-Kompass, Themenseiten, Antworten auf häufige Fragen und einem Kontaktformular⁠6. Auf EU-Ebene beaufsichtigt die Kommission mit ihrem Büro für Künstliche Intelligenz die Anbieter großer Allzweckmodelle; sie kann diese Anbieter auch selbst mit Geldbußen belegen⁠1. Wie hoch die Geldbußen ausfallen können, zeigen die Bußgeldrahmen des AI Act.

Messingglocke auf einem hellen Tresen aus Eiche neben einem ordentlichen Stapel schlichter Mappen aus Packpapier
Die Bundesnetzagentur ist zentrale Anlaufstelle für Fragen zur KI-Verordnung. Bild: KI-generiert

Förderung, Reallabore und Hilfen für kleine Betriebe

Die Verordnung enthält auch Regeln, die Entwicklung erleichtern sollen. Jeder Mitgliedstaat muss mindestens ein KI-Reallabor einrichten, das bis zum 02.08.2027 einsatzbereit ist⁠1. Dort können Unternehmen ein System unter Begleitung der Behörde entwickeln, trainieren und testen, bevor es auf den Markt kommt. In Deutschland ist das Aufgabe der Bundesnetzagentur, die nach Angaben der Behörde schon von Mai bis Dezember 2025 ein Pilotprojekt dafür betrieben hat⁠46. Wer dort vorrangig Zugang bekommt und welche Hilfen das KI-MIG kleinen Unternehmen sonst verspricht, steht im Beitrag zu KI-MIG und Bundesnetzagentur. Der Omnibus hat außerdem die Erleichterungen beim Qualitätsmanagement auf alle kleinen und mittleren Unternehmen ausgedehnt, sofern sie keine Partner- oder verbundenen Unternehmen haben⁠2.

Wo die Rechtslage noch offen ist

Viele Begriffe der Verordnung sind weit gefasst. Die Kommission hat Leitlinien veröffentlicht, etwa zu den verbotenen Praktiken am 04.02.2025⁠9. Zwei Tage später folgten Leitlinien dazu, wann eine Software überhaupt ein KI-System ist, veröffentlicht am 06.02.2025⁠10. Die Definition in Artikel 3 gehört zu den ersten Regeln, die seit dem 02.02.2025 gelten. Die Leitlinien sollen Anbietern helfen zu beurteilen, ob ihr Softwaresystem darunter fällt, etwa in Grenzfällen wie der Tabellenkalkulation, und die Kommission will sie mit wachsender Erfahrung fortschreiben⁠10. Auch sie sind nicht verbindlich. Verbindlich auslegen kann die Verordnung nur der Gerichtshof der Europäischen Union⁠9.

Für Systeme, die nach dem 02.08.2026 neue Versionen erhalten, ist außerdem unklar, ob die Übergangsfrist bis zum 02.12.2026 noch greift; der Zeitplan des AI Act erklärt, woran das hängt⁠2. Wer ein bestehendes System stark umbaut, klärt das am besten mit einer Anwältin oder einem Anwalt. Für die erste Einordnung eines konkreten Systems gibt es den AI-Act-Check und den KI-Service-Desk der Bundesnetzagentur⁠6.

Was das für dich heißt

Wenn du KI im Betrieb einsetzt, bist du fast immer Betreiber, und einige Pflichten gelten für dich schon heute.

  1. Schreib auf, welche KI-Werkzeuge in deinem Betrieb laufen und wofür.
  2. Prüf, ob eines davon in einem Anhang-III-Bereich arbeitet, etwa bei Bewerbungen oder Kreditentscheidungen.
  3. Sorg dafür, dass alle, die mit KI arbeiten, wissen, was die Werkzeuge können und wo ihre Grenzen liegen.
  4. Kennzeichne Deepfakes und informiere Menschen, wenn sie mit einem Chatbot sprechen.

Häufige Fragen

Gilt der AI Act auch, wenn ich ChatGPT nur privat nutze?

Nein. Die Pflichten für Betreiber gelten nicht für Menschen, die KI ausschließlich in einer persönlichen, nicht beruflichen Tätigkeit verwenden. Sobald du ein KI-Werkzeug im Job, im Verein oder für Kunden einsetzt, bist du Betreiber.

Ist die KI-Verordnung dasselbe wie der AI Act?

Ja. KI-Verordnung, KI-VO und EU AI Act meinen alle die Verordnung (EU) 2024/1689. In deutschen Behördentexten heißt sie meist KI-Verordnung.

Muss Deutschland den AI Act erst in ein eigenes Gesetz umsetzen?

Die Verordnung gilt direkt. Das deutsche KI-MIG regelt vor allem, welche Behörden zuständig sind, wie Bußgeldverfahren laufen und wie Innovation gefördert wird, etwa mit einem KI-Reallabor der Bundesnetzagentur.

Gilt die Verordnung auch für Firmen außerhalb der EU?

Ja, wenn sie KI-Systeme in der EU in Verkehr bringen oder wenn die Ausgaben ihrer Systeme in der EU verwendet werden. Anbieter von Allzweckmodellen aus Drittländern müssen einen Bevollmächtigten mit Sitz in der EU benennen.

Wurde der AI Act verschoben?

Teilweise. Der Digital-Omnibus hat die Hochrisiko-Pflichten auf den 02.12.2027 und den 02.08.2028 verlegt. Verbote, KI-Kompetenz, Allzweckmodelle und Transparenzpflichten gelten weiter zu den ursprünglichen Terminen.

Keine Rechtsberatung. Der Beitrag gibt den Stand vom 22.11.2026 wieder. Lass deinen eigenen Fall fachkundig prüfen.

Quellen

Stand:

  1. EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27.07.2026, Stand 27.07.2026, abgerufen am 22.11.2026. zurück
  2. EUR-Lex: Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), ABl. L vom 24.07.2026, Stand 24.07.2026, abgerufen am 22.11.2026. zurück
  3. EUR-Lex: Verordnung (EU) 2024/1689 über künstliche Intelligenz, ABl. L vom 12.07.2024, Stand 12.07.2024, abgerufen am 22.11.2026. zurück
  4. Bundesgesetzblatt (recht.bund.de): Gesetz zur Durchführung der Verordnung über künstliche Intelligenz, BGBl. 2026 I Nr. 223, Stand 28.07.2026, abgerufen am 22.11.2026. zurück
  5. Bundesnetzagentur: Pressemitteilung: Bundesnetzagentur übernimmt zentrale Rolle bei der Umsetzung der KI-Verordnung, Stand 29.07.2026, abgerufen am 22.11.2026. zurück
  6. Bundesnetzagentur: KI-Service-Desk und häufige Fragen, Stand 2026, abgerufen am 22.11.2026. zurück
  7. Bundesnetzagentur: Risikostufen der KI-Verordnung, Stand 2026, abgerufen am 22.11.2026. zurück
  8. Bundesnetzagentur: Ziele, Zielgruppe, Zeitplan der KI-Verordnung, Stand 2026, abgerufen am 22.11.2026. zurück
  9. Europäische Kommission: Leitlinien zu verbotenen Praktiken der künstlichen Intelligenz im Sinne des KI-Gesetzes, Stand 31.07.2025, abgerufen am 22.11.2026. zurück
  10. Europäische Kommission: Leitlinien zur Definition eines KI-Systems, Stand 06.02.2025, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert

Aus dem Lexikon

Bilder: KI-generiert