Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Recht

Risikoklassen im AI Act

Kurzantwort

Der AI Act kennt vier Risikoklassen: verbotene Praktiken, Hochrisiko-Systeme, Systeme mit Transparenzpflichten und Systeme mit minimalem Risiko⁠3. Hochriskant ist KI, die als Sicherheitsbauteil in Produkten nach Anhang I steckt oder in einem der acht Bereiche aus Anhang III arbeitet⁠1. Ein Anhang-III-System kann ausnahmsweise herausfallen, wenn es nur eine eng begrenzte Hilfsaufgabe erledigt⁠1.

Autor
Veröffentlicht
Geprüft
Lesezeit
9 Minuten
Vier runde Signalleuchten nebeneinander auf einem hellen Eichentisch, leuchtend in Rot, Bernstein, Gelb und Grün
Vier Stufen, vier Farben: Die KI-Verordnung ordnet Systeme nach ihrem Risiko. Bild: KI-generiert

Die Fristen im Überblick

  1. Verbote nach Artikel 5

    Die acht verbotenen Praktiken gelten.

    gilt
  2. Transparenzpflichten

    Artikel 50 gilt für Chatbots, erzeugte Inhalte, Deepfakes und Emotionserkennung.

    gilt
  3. Zwei neue Verbote

    Artikel 5 Absatz 1 Buchstaben ba und bb gelten.

    kommt
  4. Hochrisiko nach Anhang III

    Pflichten für die acht Bereiche aus Anhang III gelten.

    kommt
  5. Hochrisiko nach Anhang I

    Pflichten für KI als Sicherheitsbauteil in Produkten gelten.

    kommt

In welche Risikoklasse ein KI-System fällt, hängt davon ab, wofür es eingesetzt wird, und kaum von der Technik dahinter. Derselbe Textgenerator kann im Kundenservice ein Fall für die Transparenzpflichten sein und bei der Vorauswahl von Bewerbungen ein Hochrisiko-System. Die Verordnung (EU) 2024/1689 legt die Klassen in Artikel 5, Artikel 6 mit den Anhängen I und III und Artikel 50 fest⁠1.

Die vier Stufen im Überblick

Die Bundesnetzagentur fasst das Prinzip so zusammen: Je höher das Risiko für Gesundheit, Sicherheit und Grundrechte, desto strenger die Regeln⁠3. Risiko meint dabei die Wahrscheinlichkeit eines Schadens und sein Ausmaß⁠3.

Risikopyramide mit vier Stufen und Beispielen: verboten, hohes Risiko, Transparenz und minimales Risiko
  1. Rot verboten
  2. Dunkel hohes Risiko
  3. Hell Transparenz
  4. Papier minimal
Die Risikoklassen der KI-Verordnung mit typischen Beispielen. Grafik: KI-Blog

Ganz oben stehen Praktiken, die die EU für unannehmbar hält und deshalb verbietet. Darunter folgen Hochrisiko-Systeme, die nur mit Konformitätsbewertung, Dokumentation und menschlicher Aufsicht auf den Markt dürfen. Die dritte Stufe betrifft Systeme, bei denen Menschen wissen sollen, dass KI im Spiel ist. Den breiten Sockel bilden Anwendungen ohne besondere Pflichten aus der Verordnung⁠3. Ziel, Aufbau und Rollen des Gesetzes behandelt unser Überblick zur KI-Verordnung.

Unannehmbares Risiko: verbotene Praktiken

Artikel 5 zählt auf, was in der EU niemand in Verkehr bringen, in Betrieb nehmen oder verwenden darf⁠1. Die Verbote gelten seit dem 02.02.2025⁠1:

  • Systeme, die Menschen mit unterschwelligen, manipulativen oder täuschenden Techniken zu Entscheidungen bringen, die ihnen erheblich schaden
  • Systeme, die Schwächen wegen Alter, Behinderung oder sozialer und wirtschaftlicher Lage ausnutzen
  • Social Scoring, also die Bewertung von Menschen nach ihrem sozialen Verhalten mit ungerechtfertigten Nachteilen
  • Vorhersage von Straftaten allein aufgrund von Profiling oder Persönlichkeitsmerkmalen
  • ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Überwachungsaufnahmen für Gesichtserkennungsdatenbanken
  • Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen
  • biometrische Kategorisierung, die auf Herkunft, politische Meinung, Gewerkschaftszugehörigkeit, Religion oder sexuelle Orientierung schließt
  • biometrische Echtzeit-Fernidentifizierung in öffentlichen Räumen zur Strafverfolgung, mit eng gefassten Ausnahmen

Ab dem 02.12.2026 kommen zwei Verbote aus dem Digital-Omnibus dazu: Systeme, die ohne ausdrückliche Zustimmung realistische Darstellungen intimer Körperteile oder sexueller Handlungen bestimmbarer Personen erzeugen oder manipulieren, und Systeme, die Darstellungen sexuellen Kindesmissbrauchs erzeugen⁠12. Verboten ist das Inverkehrbringen nach dem neuen Absatz 1a nur, wenn die Erzeugung solcher Inhalte Zweck des Systems oder ein absehbares, reproduzierbares Ergebnis ist und keine zumutbaren Schutzmaßnahmen bestehen⁠2. Im Lexikon steht mehr unter verbotene Praktiken. Zur Auslegung hat die Kommission am 04.02.2025 Leitlinien mit Beispielen veröffentlicht, die nicht verbindlich sind⁠4.

Hohes Risiko über Anhang I: KI in Produkten

Der erste Weg in die Hochrisiko-Klasse führt über das Produktrecht. Nach Artikel 6 Absatz 1 ist ein KI-System hochriskant, wenn es Sicherheitsbauteil eines Produkts ist, für das eine der EU-Vorschriften aus Anhang I gilt, oder selbst ein solches Produkt ist, und wenn das Produkt von einer unabhängigen Stelle geprüft werden muss⁠1. Zu diesen Vorschriften gehören etwa die Regeln für Maschinen, Spielzeug, Aufzüge, Funkanlagen und Medizinprodukte⁠13. Ein Beispiel ist eine Software, die in einem Medizingerät Bilder auswertet und die eine Benannte Stelle zertifizieren muss.

Der Digital-Omnibus hat präzisiert, wann KI ein Sicherheitsbauteil ist. Systeme, die nur nicht sicherheitsrelevanten Zwecken dienen, etwa der Nutzerunterstützung, der Optimierung oder der Qualitätskontrolle, zählen nicht dazu. Systeme, deren Ausfall Gesundheit oder Sicherheit gefährden würde, zählen dazu⁠2. Muss ein Produkt nur wegen anderer Risiken wie Funkstörungen von Dritten geprüft werden, reicht das für die Hochrisiko-Einstufung nicht⁠2. Die Pflichten für diese Systeme gelten ab dem 02.08.2028⁠1.

Hohes Risiko über Anhang III: acht Bereiche

Der zweite Weg führt über den Einsatzzweck. Anhang III nennt acht Bereiche, in denen KI als hochriskant gilt⁠1:

  1. Biometrie: Fernidentifizierung, Kategorisierung nach sensiblen Merkmalen und Emotionserkennung, soweit nicht ohnehin verboten
  2. Kritische Infrastruktur: KI als Sicherheitsbauteil in digitaler Infrastruktur, im Straßenverkehr und in der Versorgung mit Wasser, Gas, Wärme oder Strom
  3. Bildung: Zulassung, Bewertung von Lernergebnissen, Einstufung des Bildungsniveaus und Prüfungsaufsicht
  4. Beschäftigung: Auswahl von Bewerbern, Entscheidungen über Beförderung, Kündigung und Arbeitsbedingungen, Leistungsbeobachtung
  5. Grundlegende Dienste: Anspruch auf staatliche Leistungen, Kreditwürdigkeit (außer Betrugserkennung), Risiko und Preise bei Lebens- und Krankenversicherungen, Bewertung von Notrufen
  6. Strafverfolgung, etwa Bewertung von Beweismitteln oder Rückfallrisiko
  7. Migration, Asyl und Grenzkontrolle
  8. Rechtspflege und demokratische Prozesse, darunter Systeme, die Wahlen beeinflussen sollen

Für die meisten Betriebe sind die Bereiche 3 bis 5 die heikelsten. Wer etwa ein Werkzeug nutzt, das Bewerbungen vorsortiert, betreibt nach Anhang III Nummer 4 ein Hochrisiko-System⁠1. Ab dem 02.12.2027 gelten dafür die Pflichten aus Kapitel III⁠1. Für Betriebe, die solche Werkzeuge nutzen, folgen daraus eigene Betreiberpflichten. Im Lexikon steht unter Hochrisiko-KI eine Kurzfassung.

Acht kleine Holzklötze unterschiedlicher Höhe in einer Reihe auf Leinen, einer davon höher und rot bemalt
Anhang III nennt acht Bereiche, in denen KI als hochriskant gilt. Bild: KI-generiert

Die Ausnahme in Artikel 6 Absatz 3

Nicht jedes System in einem Anhang-III-Bereich ist automatisch hochriskant. Nach Artikel 6 Absatz 3 fällt es heraus, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt⁠1. Das ist der Fall, wenn das System

  • nur eine eng gefasste Verfahrensaufgabe erledigt, etwa eingehende Unterlagen nach Kategorien sortiert,
  • das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit verbessert, zum Beispiel einen Text sprachlich glättet,
  • Entscheidungsmuster oder Abweichungen erkennt, ohne die menschliche Bewertung zu ersetzen oder zu beeinflussen,
  • oder nur eine vorbereitende Aufgabe für eine Bewertung erledigt⁠1.

Eine Grenze gibt es: Systeme, die ein Profiling natürlicher Personen vornehmen, bleiben immer hochriskant⁠1. Wer sich als Anbieter auf die Ausnahme beruft, muss seine Bewertung vor dem Inverkehrbringen dokumentieren, das System registrieren und die Unterlagen der Behörde auf Verlangen vorlegen⁠1. Leitlinien mit praktischen Beispielen zu Artikel 6 sollte die Kommission bis zum 02.02.2026 vorlegen⁠1. Nach der Zeitplanseite der Bundesnetzagentur lief die zweite Konsultation dazu bis zum 23.07.2026⁠7.

Was die Hochrisiko-Einstufung für Anbieter bedeutet

Hochriskante Systeme bleiben erlaubt, sie müssen aber Anforderungen erfüllen, bevor sie auf den Markt kommen. Der Anbieter braucht ein Risikomanagement über den ganzen Lebenszyklus, geprüfte Trainings-, Validierungs- und Testdaten, eine technische Dokumentation und automatische Protokolle⁠1. Das System muss so gebaut sein, dass Menschen es wirksam beaufsichtigen können, und es muss angemessen genau, robust und gegen Angriffe geschützt sein⁠1. Vor dem Inverkehrbringen steht eine Konformitätsbewertung, bei Anhang-III-Systemen außerdem die Registrierung in der EU-Datenbank⁠1.

Bei Systemen in Produkten nach Anhang I läuft das über die bekannten Verfahren des Produktrechts, oft mit einer unabhängigen Prüfstelle⁠1. In Deutschland bleiben dafür die bisherigen Marktüberwachungsbehörden für diese Produkte zuständig (§ 2 Absatz 2 KI-MIG)⁠6.

In vier Fragen zur Risikoklasse

Für eine erste Einordnung reichen vier Fragen, die du der Reihe nach beantwortest:

  1. Fällt die Anwendung unter eines der Verbote aus Artikel 5? Dann darf sie nicht eingesetzt werden, und die weiteren Fragen erübrigen sich.
  2. Ist das System Sicherheitsbauteil eines Produkts nach Anhang I, das von Dritten geprüft werden muss? Dann ist es hochriskant.
  3. Arbeitet es in einem der acht Bereiche aus Anhang III? Dann ist es hochriskant, es sei denn, eine Ausnahme aus Artikel 6 Absatz 3 greift und es findet kein Profiling statt.
  4. Spricht das System mit Menschen, erzeugt es Inhalte oder erkennt es Emotionen? Dann kommen die Transparenzpflichten dazu, auch zusätzlich zu einer Hochrisiko-Einstufung.

Bleiben alle Antworten negativ, liegt minimales Risiko vor⁠13. Die gleiche Logik steckt im Entscheidungsbaum des AI-Act-Checks, der zu jeder Stufe auch die Fristen nennt.

Begrenztes Risiko: Transparenz

Auf der dritten Stufe stehen Systeme, bei denen Menschen getäuscht werden könnten. Artikel 50 verlangt, dass Menschen erfahren, wenn sie mit einem Chatbot sprechen, dass erzeugte Bilder, Töne, Videos und Texte maschinenlesbar markiert sind und dass Deepfakes offengelegt werden⁠1. Auch wer Emotionserkennung oder biometrische Kategorisierung erlaubterweise einsetzt, muss die Betroffenen informieren⁠1. Die Bundesnetzagentur nennt auf dieser Stufe Chatbots, Empfehlungsalgorithmen und KI, die Text, Bild oder Audio erzeugt⁠3. Anwendbar sind diese Pflichten seit dem 02.08.2026⁠1. Die Abgrenzung im Detail, etwa bei Satire oder geprüften Texten, steht im Beitrag zur KI-Kennzeichnungspflicht.

Minimales Risiko

Der Spamfilter ist das Standardbeispiel der Bundesnetzagentur für diese Stufe⁠3. Dazu gehören auch Rechtschreibprüfungen, Übersetzungshilfen für den eigenen Gebrauch oder die Bildverbesserung in einer Kamera-App, solange keine der anderen Stufen berührt ist. Die Verordnung schreibt hier nichts Besonderes vor; freiwillige Verhaltenskodizes sind möglich⁠3. Wer solche Systeme beruflich nutzt, bleibt Betreiber und muss für KI-Kompetenz im Team sorgen⁠1.

Grenzfälle aus der Praxis

  • Ein Chatbot im Kundenservice fällt unter die Transparenzpflichten. Entscheidet derselbe Chatbot aber darüber, ob jemand eine staatliche Leistung bekommt, rückt er in Anhang III Nummer 5⁠1.
  • Software zur Kreditprüfung ist hochriskant, Software, die nur Betrug erkennen soll, ausdrücklich nicht⁠1.
  • Emotionserkennung im Callcenter, die die Stimmung von Beschäftigten misst, ist am Arbeitsplatz verboten. Misst sie nur die Stimmung der Anrufer, kann sie als biometrisches System in Anhang III fallen und braucht in jedem Fall einen Hinweis an die Betroffenen⁠1.
  • Ein Werkzeug, das Prüfungen per Kamera beaufsichtigt, gehört zu Anhang III Nummer 3⁠1.
  • Eine Navigations-App, die Staus umfährt, hat minimales Risiko. Steuert KI als Sicherheitsbauteil die Ampeln einer Stadt, fällt sie unter die kritische Infrastruktur nach Anhang III Nummer 2⁠1.
  • Eine Software, die Hausaufgaben korrigiert und Noten vorschlägt, die in Zeugnisse eingehen, bewertet Lernergebnisse und gehört damit ebenfalls zu Anhang III Nummer 3⁠1.
  • Ein satirisches Deepfake-Video ist kein verbotenes System, muss aber in geeigneter Form als künstlich erzeugt offengelegt werden, ohne das Werk zu verderben⁠1.

Bei solchen Fällen ist die Einordnung eine Frage des Einzelfalls, und die Leitlinien der Kommission sind nicht verbindlich; das letzte Wort hat der Gerichtshof der Europäischen Union⁠4. Für eine erste Orientierung bietet die Bundesnetzagentur ihren KI-Compliance-Kompass an⁠5. Öffentliche Stellen können sich zur Einstufung eines Systems von der Bundesnetzagentur beraten lassen, wenn ihr Ministerium dafür eine Verwaltungsvereinbarung geschlossen hat (§ 12 KI-MIG)⁠6.

Modelle mit allgemeinem Verwendungszweck

Große Sprachmodelle fallen in keine der vier Stufen. Die Stufen gelten für KI-Systeme, ein Modell allein ist nach Darstellung der Bundesnetzagentur nur eine Kernkomponente⁠3. Für Anbieter solcher Modelle gelten eigene Pflichten aus Kapitel V, bei sehr großen Modellen mit systemischem Risiko strengere⁠1. Das Lexikon erklärt den Begriff unter GPAI. Wird ein solches Modell in ein konkretes System eingebaut, etwa in einen Bewerbungsfilter, richtet sich die Risikoklasse nach dem Zweck dieses Systems.

Was das für dich heißt

Für die Einstufung zählt vor allem, wofür du ein System einsetzt.

  1. Schreib für jedes KI-Werkzeug auf, welche Aufgabe es im Betrieb erledigt.
  2. Gleich die Aufgaben mit den acht Bereichen aus Anhang III ab, besonders Personal, Bildung und Kredit.
  3. Bitte den Anbieter um seine Einstufung und, falls er sich auf Artikel 6 Absatz 3 beruft, um die Begründung.
  4. Nutze für Zweifelsfälle den KI-Compliance-Kompass der Bundesnetzagentur oder rechtlichen Rat.

Häufige Fragen

Ist ChatGPT ein Hochrisiko-System?

Als allgemeines Werkzeug nicht. Das Modell dahinter fällt unter die Regeln für Allzweckmodelle, der Chat selbst unter die Transparenzpflichten. Setzt ein Betrieb es gezielt für eine Anhang-III-Aufgabe ein, etwa zur Bewertung von Bewerbern, kann dieser Einsatz hochriskant sein.

Wer entscheidet, in welche Risikoklasse ein System fällt?

Zuerst der Anbieter, der sein System einordnen und bei einer Ausnahme nach Artikel 6 Absatz 3 seine Begründung dokumentieren muss. Die Marktüberwachungsbehörde kann das prüfen, in Deutschland meist die Bundesnetzagentur.

Sind Empfehlungsalgorithmen in Onlineshops hochriskant?

In der Regel nicht. Die Bundesnetzagentur führt sie auf ihrer Risikostufenseite bei den Systemen mit begrenztem Risiko auf⁠3; Artikel 50 nennt Empfehlungsalgorithmen allerdings nicht ausdrücklich⁠1. Anders kann es aussehen, wenn ein System über Versicherungsprämien oder Kredite entscheidet.

Ist Gesichtserkennung grundsätzlich verboten?

Nein. Verboten sind bestimmte Formen, etwa das ungezielte Sammeln von Gesichtsbildern oder die Echtzeit-Fernidentifizierung zur Strafverfolgung ohne die engen Ausnahmen. Andere biometrische Fernidentifizierung ist ein Hochrisiko-Fall nach Anhang III.

Keine Rechtsberatung. Der Beitrag gibt den Stand vom 22.11.2026 wieder. Lass deinen eigenen Fall fachkundig prüfen.

Quellen

Stand:

  1. EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27.07.2026, Stand 27.07.2026, abgerufen am 22.11.2026. zurück
  2. EUR-Lex: Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), ABl. L vom 24.07.2026, Stand 24.07.2026, abgerufen am 22.11.2026. zurück
  3. Bundesnetzagentur: Risikostufen der KI-Verordnung, Stand 2026, abgerufen am 22.11.2026. zurück
  4. Europäische Kommission: Leitlinien zu verbotenen Praktiken der künstlichen Intelligenz im Sinne des KI-Gesetzes, Stand 31.07.2025, abgerufen am 22.11.2026. zurück
  5. Bundesnetzagentur: KI-Service-Desk mit KI-Compliance-Kompass, Stand 2026, abgerufen am 22.11.2026. zurück
  6. Bundesgesetzblatt (recht.bund.de): Gesetz zur Durchführung der Verordnung über künstliche Intelligenz, BGBl. 2026 I Nr. 223, Stand 28.07.2026, abgerufen am 22.11.2026. zurück
  7. Bundesnetzagentur: Ziele, Zielgruppe, Zeitplan der KI-Verordnung, Stand 2026, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert

Aus dem Lexikon

Bilder: KI-generiert