Recht
Was Betriebe nach dem AI Act tun müssen
Kurzantwort
Ein Betrieb, der KI-Systeme anderer beruflich nutzt, ist Betreiber im Sinne des AI Act1. Seit dem 02.02.2025 muss er Maßnahmen zur KI-Kompetenz seiner Leute ergreifen, seit dem 02.08.2026 Deepfakes und bestimmte Texte offenlegen1. Für Hochrisiko-Systeme kommen ab dem 02.12.2027 Pflichten wie menschliche Aufsicht, Protokolle und die Information von Beschäftigten dazu1.

Die Fristen im Überblick
KI-Kompetenz
Artikel 4 gilt für alle Anbieter und Betreiber.
giltTransparenz für Betreiber
Offenlegung von Deepfakes und bestimmten Texten, Information bei Emotionserkennung (Artikel 50).
giltHochrisiko-Nutzung nach Anhang III
Betreiberpflichten aus Artikel 26 und 27 für Systeme aus Anhang III.
kommtHochrisiko nach Anhang I
Pflichten für Hochrisiko-Systeme in Produkten nach Anhang I.
kommt
Die meisten Unternehmen entwickeln keine KI, sie kaufen sie ein: ein Abo für einen Chat-Assistenten, ein Übersetzungswerkzeug, eine Software für die Buchhaltung mit KI-Funktionen. In der Sprache des AI Act sind sie damit Betreiber, also jemand, der ein KI-System in eigener Verantwortung verwendet1. Wie viel ein Betreiber tun muss, hängt davon ab, wofür er die Systeme einsetzt. Für die meisten Betriebe bleibt es bei Schulung und ein paar Transparenzpflichten. Wer KI in Personalfragen oder bei Krediten nutzt, hat deutlich mehr zu tun.
Betreiber oder Anbieter: die Rolle zuerst klären
Betreiber ist jede natürliche oder juristische Person, Behörde oder Einrichtung, die ein KI-System in eigener Verantwortung verwendet, solange das nicht im Rahmen einer rein persönlichen, nicht beruflichen Tätigkeit geschieht1. Die Rolle des Anbieters hat, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt1. Die Unterscheidung erklärt das Lexikon unter Anbieter und Betreiber.
Für Selbstständige gilt dasselbe wie für große Firmen: Wer ein KI-Werkzeug für Kundenaufträge nutzt, ist Betreiber. Nur die private Nutzung bleibt außen vor, die Bundesnetzagentur stellt das in ihren häufigen Fragen klar4.
KI-Kompetenz: die Pflicht für alle
Die einzige Pflicht, die jeden Betreiber unabhängig von der Risikostufe trifft, steht in Artikel 4. Anbieter und Betreiber ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit KI-Systemen arbeiten1. Dabei zählen Vorkenntnisse, Erfahrung und Ausbildung der Leute, der Einsatzkontext und die Personen, auf die die Systeme wirken1. Die Pflicht gilt seit dem 02.02.20251.
Der Digital-Omnibus hat Artikel 4 neu gefasst. Ein bestimmtes Niveau an KI-Kompetenz muss der Betrieb danach für niemanden garantieren; die Kommission und die Mitgliedstaaten sollen besonders kleine und mittlere Unternehmen unterstützen, und die Kommission veröffentlicht praktische Beispiele12. Ein Zertifikat oder eine bestimmte Schulungsform schreibt die Verordnung nicht vor. Die Bundesnetzagentur hat zu Artikel 4 ein Hinweispapier veröffentlicht4. Wie Betriebe die Pflicht praktisch erfüllen, beschreibt die Seite KI-Kompetenz als Pflicht.
Konkret sollte jeder, der mit einem KI-System arbeitet, wissen, was es kann, wo es Fehler macht und welche Daten er eingeben darf. Für ein Marketingteam, das Texte erzeugt, sieht eine passende Schulung anders aus als für die Personalabteilung, die Bewerbungen sichtet. Eine schriftliche KI-Richtlinie hilft, das festzuhalten.
Transparenzpflichten als Betreiber
Seit dem 02.08.2026 gelten die Transparenzpflichten aus Artikel 501. Einige davon treffen die Anbieter: Sie müssen Chatbots so bauen, dass Menschen erfahren, dass sie mit einer KI sprechen, und erzeugte Inhalte maschinenlesbar markieren15. Andere treffen dich als Betreiber15:
- Wenn du ein System zur Emotionserkennung oder zur biometrischen Kategorisierung erlaubterweise einsetzt, musst du die betroffenen Personen darüber informieren.
- Wenn du Bilder, Ton oder Videos veröffentlichst, die ein Deepfake sind, musst du offenlegen, dass sie künstlich erzeugt oder verändert wurden. Bei erkennbar künstlerischen, satirischen oder fiktionalen Werken genügt ein Hinweis, der den Genuss des Werks nicht stört.
- Wenn du mit KI erzeugte oder veränderte Texte veröffentlichst, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, musst du das offenlegen. Die Pflicht entfällt, wenn ein Mensch den Text geprüft hat und eine Person oder ein Unternehmen die redaktionelle Verantwortung trägt.
Die Information muss spätestens bei der ersten Interaktion oder Begegnung klar erkennbar sein und den Anforderungen an Barrierefreiheit genügen1. Die Einzelheiten zu jedem Absatz von Artikel 50 haben wir zur Kennzeichnungspflicht zusammengetragen; fertige Formulierungen für Bildunterschriften und Posts gibt es für Website und Social Media.
Pflichten bei der Nutzung von Hochrisiko-Systemen
Setzt ein Betrieb ein Hochrisiko-System ein, etwa eine Software zur Vorauswahl von Bewerbungen oder zur Prüfung der Kreditwürdigkeit, gelten die Pflichten aus Artikel 261. Für Systeme nach Anhang III beginnen sie am 02.12.20271. Ob ein System dazugehört, entscheidet die Einstufung nach Anhang I und III. Als Betreiber musst du dann
- technische und organisatorische Maßnahmen treffen, damit das System nach der Betriebsanleitung des Anbieters verwendet wird,
- die menschliche Aufsicht Personen übertragen, die dafür die nötige Kompetenz, Ausbildung und Befugnis haben,
- dafür sorgen, dass Eingabedaten, soweit du sie kontrollierst, zum Zweck passen und ausreichend repräsentativ sind,
- den Betrieb überwachen, bei einem Risiko den Anbieter und die Behörde informieren und die Nutzung aussetzen, schwerwiegende Vorfälle melden,
- die automatisch erzeugten Protokolle, soweit sie unter deiner Kontrolle stehen, mindestens sechs Monate aufbewahren,
- vor dem Einsatz am Arbeitsplatz die Arbeitnehmervertretung und die betroffenen Beschäftigten informieren,
- Menschen informieren, über die das System Entscheidungen trifft oder vorbereitet,
- mit den Behörden zusammenarbeiten1.
Die Angaben des Anbieters nach Artikel 13 sollst du für eine Datenschutz-Folgenabschätzung nutzen, wenn eine nötig ist1. Was dazu im Datenschutzrecht gilt, steht auf der Seite KI und Datenschutz im Unternehmen und im Lexikon unter DSFA. Die Information des Betriebsrats behandelt die Seite zur KI-Betriebsvereinbarung.
Behörden und andere öffentliche Stellen als Betreiber haben eine Zusatzpflicht: Sie müssen sich und das System vor der Nutzung in der EU-Datenbank registrieren (Artikel 49 Absatz 3)1. Für Systeme der kritischen Infrastruktur nach Anhang III Nummer 2 führt in Deutschland die Bundesnetzagentur ein eigenes, nicht öffentliches Register, in das sich öffentliche Stellen des Bundes als Betreiber eintragen (§ 20 KI-MIG)3.
Betroffene haben nach Artikel 86 einen Anspruch auf eine Erläuterung, wenn ein Hochrisiko-System eine Entscheidung über sie maßgeblich vorbereitet hat1. Wer als Betreiber eines Systems aus Anhang III Nummer 1, 3, 4 oder 5 diese Erläuterung nicht sicherstellt, handelt nach § 15 Absatz 2 KI-MIG ordnungswidrig3.

Grundrechte-Folgenabschätzung
Einige Betreiber müssen vor dem ersten Einsatz eines Hochrisiko-Systems abschätzen, wie es sich auf die Grundrechte der Betroffenen auswirken kann (Artikel 27)1. Das betrifft Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, und alle Betreiber, die KI zur Prüfung der Kreditwürdigkeit oder zur Risiko- und Preisbewertung bei Lebens- und Krankenversicherungen einsetzen1. Die Abschätzung beschreibt unter anderem Verfahren, Zeitraum und Häufigkeit des Einsatzes, betroffene Gruppen, konkrete Schadensrisiken und die Maßnahmen für den Fall, dass ein Risiko eintritt; das Ergebnis geht an die Marktüberwachungsbehörde1. Wer das unterlässt, handelt nach § 15 Absatz 1 KI-MIG ordnungswidrig3. Ein Handwerksbetrieb oder ein Steuerbüro ohne solche Systeme muss keine Grundrechte-Folgenabschätzung erstellen.
Wann ein Betrieb selbst zum Anbieter wird
Die Grenze zwischen Betreiber und Anbieter zieht Artikel 25 Absatz 1: Danach gilt ein Betreiber als Anbieter eines Hochrisiko-Systems, wenn er
- ein Hochrisiko-System, das schon auf dem Markt ist, mit seinem eigenen Namen oder seiner Marke versieht,
- ein Hochrisiko-System so wesentlich verändert, dass es hochriskant bleibt,
- oder den Zweck eines gewöhnlichen Systems, auch eines Allzweck-Chatbots, so ändert, dass es zum Hochrisiko-System wird1.
Ein Beispiel für den dritten Punkt: Wer einen allgemeinen Chat-Assistenten so einrichtet, dass er Bewerbungen bewertet und eine Rangfolge bildet, macht daraus ein System nach Anhang III Nummer 4 und trägt dann die Anbieterpflichten1. Anbieter wird auch, wer ein eigenes System entwickelt oder entwickeln lässt und es unter eigenem Namen in Betrieb nimmt, selbst wenn er es nur intern verwendet1. Wer einen eigenen Chatbot erstellt und auf der Website anbietet, sollte deshalb prüfen, ob er Anbieter ist und die Pflicht aus Artikel 50 Absatz 1 erfüllt.
- Häkchen Pflicht der Rolle
- Strich keine Pflicht dieser Rolle
Drei Betriebe, drei Pflichtenlagen
Die drei Beispiele sind ausgedacht.
Eine Bäckerei mit vier Filialen nutzt einen Chat-Assistenten für Social-Media-Texte und einen Chatbot auf der Website, der Bestellungen annimmt. Sie ist Betreiberin. Sie muss ihr Team im Umgang mit den Werkzeugen schulen, und der Chatbot muss zu erkennen geben, dass er eine KI ist; diese Gestaltung schuldet in erster Linie der Anbieter1. Weitere Pflichten aus dem AI Act hat sie nicht.
Ein Steuerbüro lässt sich von einem Textgenerator Entwürfe für einen Newsletter zu neuen Steuerregeln schreiben und veröffentlicht sie auf der eigenen Website. Solche Texte können Angelegenheiten von öffentlichem Interesse betreffen. Liest eine Steuerberaterin jeden Text vor der Veröffentlichung gegen und trägt das Büro die redaktionelle Verantwortung, entfällt die Offenlegungspflicht nach Artikel 50 Absatz 41. Den Prüfschritt sollte das Büro festhalten.
Ein Personaldienstleister setzt eine Software ein, die Bewerbungen nach Eignung sortiert. Das ist ein Hochrisiko-System nach Anhang III Nummer 41. Ab dem 02.12.2027 braucht er geschulte Personen für die Aufsicht, muss Protokolle mindestens sechs Monate aufbewahren, Bewerberinnen und Bewerber über den Einsatz informieren und vorher Betriebsrat und Beschäftigte einbinden, soweit eigene Beschäftigte betroffen sind1. Mehr zum Einsatz von KI in diesem Bereich steht auf der Seite KI im Recruiting.
Checkliste für Betriebe
Für die Pflichten, die die meisten Betriebe betreffen, hilft diese Liste:
- Liste alle KI-Systeme im Betrieb mit Zweck, Anbieter und zuständiger Person auf, auch Werkzeuge, die einzelne Beschäftigte auf eigene Faust nutzen (im Lexikon unter Schatten-KI).
- Prüf für jedes System, ob ein Verbot aus Artikel 5 oder ein Bereich aus Anhang III berührt ist.
- Leg fest, wie Beschäftigte geschult werden, und halte das schriftlich fest.
- Kläre, wo Inhalte veröffentlicht werden, die Deepfakes sind oder Texte zu Themen von öffentlichem Interesse, und wie sie gekennzeichnet werden.
- Prüf bei jedem Chatbot, wer Anbieter ist und ob der Hinweis auf die KI erscheint.
- Wenn ein Hochrisiko-System dabei ist: Betriebsanleitung anfordern, Aufsicht benennen, Protokolle sichern, Arbeitnehmervertretung früh einbinden und vor Dezember 2027 alles vorbereiten1.
- Prüf bei jeder neuen Nutzung, ob sich der Zweck so ändert, dass du zum Anbieter wirst.
Verstöße gegen Betreiberpflichten können teuer werden: Für die meisten Pflichten liegt die Obergrenze nach Artikel 99 Absatz 4 bei 15 Millionen Euro beziehungsweise 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Wert höher ist; für kleine und mittlere Unternehmen zählt der niedrigere1. Wie die Behörden die Höhe bemessen, beschreiben wir bei den Bußgeldern nach Artikel 99.
Für eine Einordnung deines Falls mit Fristen gibt es den Fragebogen AI-Act-Check; er ersetzt keine Prüfung durch eine Anwältin oder einen Anwalt. Bei Fragen hilft auch das Kontaktformular des KI-Service-Desks der Bundesnetzagentur6.
Was das für dich heißt
Für die meisten Betriebe sind KI-Kompetenz und Kennzeichnung die Pflichten, die heute zählen.
- Leg eine Liste aller KI-Werkzeuge an und benenne für jedes eine zuständige Person.
- Plane eine Schulung, die zu den Aufgaben der jeweiligen Abteilung passt.
- Kläre, wer Inhalte veröffentlicht und wie Deepfakes gekennzeichnet werden.
- Nutzt du KI in Personalfragen, binde den Betriebsrat schon jetzt ein, lange vor Dezember 2027.
Häufige Fragen
Muss ich meine Beschäftigten zur KI-Kompetenz schulen lassen?
Du musst Maßnahmen ergreifen, die ihre KI-Kompetenz unterstützen; ein bestimmtes Niveau musst du nicht garantieren. Eine bestimmte Schulung oder ein Zertifikat schreibt die Verordnung nicht vor. Halte fest, was du getan hast, damit du es bei einer Nachfrage zeigen kannst.
Bin ich Anbieter, wenn ich ein Sprachmodell über eine Schnittstelle in mein Produkt einbaue?
Wenn du das Produkt unter deinem Namen anbietest, bist du Anbieter dieses KI-Systems. Die Pflichten für das Modell selbst trägt weiter dessen Hersteller.
Muss ich jeden Text kennzeichnen, den eine KI mitgeschrieben hat?
Nein. Die Pflicht betrifft veröffentlichte Texte, die über Angelegenheiten von öffentlichem Interesse informieren, und entfällt, wenn ein Mensch den Text geprüft hat und jemand die redaktionelle Verantwortung trägt. Werbetexte oder Produktbeschreibungen fallen in der Regel nicht darunter.
Wer kontrolliert die Pflichten in meinem Betrieb?
In Deutschland meist die Bundesnetzagentur. Bei Banken und Versicherungen ist es die BaFin, bei Produkten wie Maschinen die bisherige Produktbehörde.
Keine Rechtsberatung. Der Beitrag gibt den Stand vom 22.11.2026 wieder. Lass deinen eigenen Fall fachkundig prüfen.
Quellen
Stand:
- EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27.07.2026, Stand 27.07.2026, abgerufen am 22.11.2026. zurück
- EUR-Lex: Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), ABl. L vom 24.07.2026, Stand 24.07.2026, abgerufen am 22.11.2026. zurück
- Bundesgesetzblatt (recht.bund.de): Gesetz zur Durchführung der Verordnung über künstliche Intelligenz, BGBl. 2026 I Nr. 223, Stand 28.07.2026, abgerufen am 22.11.2026. zurück
- Bundesnetzagentur: Häufige Fragen zur KI-Verordnung, Stand 2026, abgerufen am 22.11.2026. zurück
- Bundesnetzagentur: Transparenzpflichten nach Artikel 50 KI-VO, Stand 2026, abgerufen am 22.11.2026. zurück
- Bundesnetzagentur: KI-Service-Desk, Stand 2026, abgerufen am 22.11.2026. zurück





