Unternehmen
KI in Behörden und Kommunen
Kurzantwort
Behörden setzen KI vor allem als Textassistenz ein: zum Zusammenfassen von Akten, für Entwürfe von Schreiben, für Recherche und für Auskünfte an Bürger. Die Leitlinien der Bundesverwaltung verlangen, dass Beschäftigte jedes KI-Ergebnis fachlich prüfen und vorher geschult werden1. Entscheidet KI mit darüber, ob jemand Sozialleistungen erhält, ist sie nach Anhang III der KI-Verordnung hochriskant, und Behörden müssen vorher eine Grundrechte-Folgenabschätzung machen4.

In Rathäusern und Ämtern ist KI bisher vor allem ein Schreibwerkzeug. Sie fasst lange Vorgänge zusammen, entwirft Antwortschreiben und Vermerke, durchsucht Vorschriften und hilft bei der Übersetzung von Bescheiden in einfache Sprache. Heikel wird es dort, wo Verwaltung über Menschen entscheidet: über Leistungen, Genehmigungen, Kontrollen. Für diese Fälle setzen die KI-Verordnung, das Verwaltungsverfahrensrecht und der Datenschutz enge Grenzen. Dazu kommt die Frage, mit welchen Systemen eine Behörde überhaupt arbeiten darf, wenn sie Daten von Bürgern verarbeitet.
Staatliche Gesichtserkennung und Überwachung mit KI sind ein eigenes Thema.
Anwendungsfälle in Kommunen und Behörden
Die Einsatzfelder lassen sich nach ihrem Risiko ordnen:
- Interne Textarbeit: Vorgänge zusammenfassen, Entwürfe für Schreiben, Vorlagen für Ausschüsse, Protokolle aus Sitzungsnotizen.
- Wissen finden: Vorschriften, Erlasse und frühere Entscheidungen durchsuchen und die passende Stelle nennen lassen, etwa über RAG mit den eigenen Dokumenten.
- Bürgerkommunikation: Chat auf der Website zu Öffnungszeiten, Unterlagen und Zuständigkeiten; Übersetzung und einfache Sprache.
- Eingangspost sortieren: Anträge und Mails nach Anliegen ordnen und an das zuständige Amt weiterleiten.
- Prüfung und Entscheidung: Vollständigkeit von Anträgen prüfen, Auffälligkeiten melden, Leistungsansprüche vorbewerten.
Die ersten vier Felder sind in der Regel unkritisch, solange Beschäftigte die Ergebnisse prüfen. Beim Bürger-Chat kommt eine Besonderheit hinzu: Verwaltung muss für alle erreichbar sein. Ein Chat kommt deshalb zu Telefon, Mail und Sprechstunde hinzu, diese Wege bleiben offen, und die Information, dass ein KI-System antwortet, muss auch für Menschen mit Behinderung zugänglich sein4. Antworten zu Fristen und Gebühren sollten aus geprüften Texten des Amts stammen, weil Bürger sich darauf verlassen. Beim letzten Feld beginnt der Bereich, den die KI-Verordnung ausdrücklich regelt.
Ein Beispiel für eine Textassistenz aus der Verwaltung ist F13 aus Baden-Württemberg. Die Landesregierung hat die Software am 23.07.2025 als Open Source veröffentlicht, damit Bund, Länder und Kommunen sie nachnutzen und gemeinsam weiterentwickeln können3. F13 ist nach Angaben des Landes modellagnostisch, lässt sich also mit nahezu jedem verfügbaren KI-Modell betreiben, und wird über die Plattform openCode des Zentrums für Digitale Souveränität bereitgestellt3. Allein in Baden-Württemberg gibt es nach Angaben der Landesregierung 1.101 Gemeinden, die sich auf KI einstellen müssen3; für sie kann eine gemeinsame Lösung den Aufwand teilen.
Leitlinien des Bundes
Für die Bundesverwaltung haben das Bundesinnenministerium und der IT-Beauftragte der Bundesregierung im März 2025 Leitlinien für den Einsatz von KI veröffentlicht1. Sie sind als Orientierungshilfe gedacht und regeln nicht alle Fragen abschließend, viele ihrer Punkte passen aber auch für Länder und Kommunen. Die wichtigsten:
- Ob und welche KI-Systeme eingesetzt werden, entscheidet die jeweilige Behördenleitung, unter anderem mit Blick auf Informationssicherheit, Datenschutz und Geheimschutz1.
- Nutzende prüfen KI-generierte Inhalte vor der weiteren Verwendung fachlich; für Ergebnisse mit KI gelten dieselben Qualitätsstandards wie ohne, und sie bleiben Arbeitsergebnisse der jeweiligen Beschäftigten1.
- Liegen keine anderen Informationen vor, gilt der restriktivste Fall: In ein KI-System dürfen dann nur öffentliche Daten eingegeben werden1.
- Behörden stellen sicher, dass Beschäftigte vor der Nutzung ein Qualifizierungsangebot bekommen, und entscheiden selbst, ob eine Schulung Pflicht ist1.
- Den Einsatz von KI machen Bundesbehörden so transparent wie möglich und klären, ob sie interne oder externe Kennzeichnungsregeln brauchen1.
Die Leitlinien nennen als Beispiele für interne Sprachmodell-Anwendungen, die an einer Freigabe für sensible dienstliche Daten arbeiten, das KI-Portal des ITZBund (KIPITZ) und PLAIN1. Als Transparenzregister für KI-Systeme in der Bundesverwaltung verweisen sie auf den Marktplatz der KI-Möglichkeiten1. Personalräte und Schwerbehindertenvertretungen sollen früh eingebunden werden, und Dienstvereinbarungen müssen gegebenenfalls neu verhandelt werden1.
Für die Umsetzung von Projekten hat das Bundesministerium für Digitales und Staatsmodernisierung im November 2025 einen KI-Guide veröffentlicht2. Er ist als Katalog von Leitfragen entlang des gesamten Lebenszyklus eines KI-Projekts aufgebaut und richtet sich an Führungskräfte, die über Projekte befinden, und an die Beschäftigten, die sie umsetzen2. Für eine eigene Regelung im Amt taugt eine KI-Richtlinie, wie Unternehmen sie nutzen, als Vorlage; vieles lässt sich auf eine Dienstanweisung übertragen.

Was der AI Act für Behörden bedeutet
Behörden sind nach der KI-Verordnung Betreiber, wenn sie ein KI-System in eigener Verantwortung verwenden4. Für die meisten Textassistenten heißt das: Maßnahmen zur Entwicklung der KI-Kompetenz der Beschäftigten seit dem 02.02.2025 und Transparenz nach Artikel 50 seit dem 02.08.20264. Ein Bürger-Chat muss also erkennen lassen, dass eine Software antwortet, außer es ist für alle offensichtlich4. Veröffentlichte Texte zu Themen, die die Allgemeinheit betreffen, müssen als KI-erzeugt offengelegt werden, es sei denn, ein Mensch hat sie redaktionell geprüft und die Behörde trägt die redaktionelle Verantwortung4. Pressemitteilungen, die Beschäftigte gegenlesen und freigeben, fallen damit in der Regel nicht unter die Kennzeichnungspflicht.
Streng wird es bei Hochrisiko-Systemen. Nach Anhang III Nummer 5 Buchstabe a sind Systeme hochriskant, die von Behörden oder in ihrem Namen verwendet werden, um zu beurteilen, ob Menschen Anspruch auf grundlegende öffentliche Unterstützungsleistungen haben, einschließlich Gesundheitsdiensten, und ob solche Leistungen gewährt, eingeschränkt, widerrufen oder zurückgefordert werden4. Für Behörden als Betreiber solcher Systeme gilt zusätzlich:
- Vor der Inbetriebnahme machen Einrichtungen des öffentlichen Rechts eine Grundrechte-Folgenabschätzung4. Die Kommission hat dafür eine Vorlage zur Konsultation gestellt, an der man sich nach Angaben der Bundesnetzagentur bis zum 15.01.2027 beteiligen kann6.
- Behörden registrieren sich vor der Verwendung in der EU-Datenbank, wählen das System aus und registrieren seine Nutzung4.
- Betroffene werden informiert, dass sie der Verwendung des Systems unterliegen, und können eine Erläuterung der Entscheidung verlangen4.
Anwendbar werden diese Regeln für Systeme aus Anhang III am 02.12.20274. Für Hochrisiko-Systeme, die schon vor Beginn der Anwendung der Hochrisiko-Vorschriften in Verkehr oder in Betrieb waren und von Behörden verwendet werden sollen, müssen Anbieter und Betreiber die Anforderungen spätestens bis zum 02.08.2030 erfüllen4.
Aufsicht und Bußgelder
In Deutschland ist nach § 2 Absatz 1 KI-MIG grundsätzlich die Bundesnetzagentur die zuständige Marktüberwachungsbehörde5. Für öffentliche Stellen der Länder gilt eine Ausnahme: Wenn sie KI-Systeme in Verkehr bringen, in Betrieb nehmen oder verwenden, obliegt die Marktüberwachung den nach Landesrecht zuständigen Behörden5. Stellt die Aufsicht bei einer öffentlichen Stelle einen Verstoß fest, teilt sie das zunächst der zuständigen Rechts- oder Fachaufsicht mit und gibt Gelegenheit zur Stellungnahme5.
Gegen Behörden und sonstige öffentliche Stellen werden nach § 17 Absatz 2 KI-MIG keine Geldbußen verhängt5. Das entbindet nicht von den Pflichten: Die Aufsicht kann weiterhin Maßnahmen anordnen, und Fehler können Verwaltungsakte angreifbar machen.
Automatisierte Bescheide und Datenschutz
Unabhängig von der KI-Verordnung gilt das Verwaltungsverfahrensrecht. Ein Verwaltungsakt darf nach § 35a VwVfG nur dann vollständig automatisch erlassen werden, wenn eine Rechtsvorschrift das zulässt und weder Ermessen noch Beurteilungsspielraum besteht7. Ein KI-Modell, das Ermessen ausübt oder unbestimmte Rechtsbegriffe auslegt, kann einen Bescheid deshalb nicht allein erlassen; es kann ihn höchstens vorbereiten.
Der Datenschutz kommt hinzu. Niemand muss sich einer ausschließlich automatisierten Entscheidung unterwerfen, die ihm gegenüber rechtliche Wirkung entfaltet oder ihn ähnlich erheblich beeinträchtigt, außer eine Rechtsvorschrift erlaubt sie mit angemessenen Schutzmaßnahmen8. Für Behörden heißt das praktisch: Ein Mensch prüft und verantwortet jede Entscheidung, und das System wird so eingerichtet, dass diese Prüfung wirklich stattfindet und nicht nur ein Haken gesetzt wird. Beim Einsatz externer KI-Dienste prüfen Behörden Verträge und Verarbeitung ähnlich wie Unternehmen beim Datenschutz; dazu kommen die Landesdatenschutzgesetze und Vorgaben zur Informationssicherheit.
Soll ein Amt Daten nicht in eine fremde Cloud geben, lassen sich Modelle auch als lokale KI auf eigenem Server im eigenen Rechenzentrum betreiben, mit eigenem Personal und eigener Hardware.
KI-Kompetenz in der Verwaltung
Seit dem 02.02.2025 verpflichtet Artikel 4 der KI-Verordnung jede Behörde, die KI-Systeme verwendet, ihre Beschäftigten beim Aufbau von KI-Wissen zu unterstützen; garantieren muss sie ein bestimmtes Können nicht4. Die Bundesnetzagentur betont, dass die Verordnung keine standardisierten Schulungen und keine Zertifizierung vorschreibt, die Maßnahmen aber dokumentiert werden sollten9. Die Leitlinien des Bundes verlangen ein Qualifizierungsangebot vor der Nutzung1.
Für ein Amt bedeutet das: eine kurze Grundschulung für alle, die Textassistenten nutzen, mit Beispielen für typische Fehler wie erfundene Fundstellen und veraltete Rechtsstände, und eine vertiefte Schulung für alle, die Systeme auswählen oder in Fachverfahren einbinden. Gerade bei Rechtsfragen erfinden Sprachmodelle gern Paragraphen und Urteile; taucht eine erfundene Fundstelle, also eine Halluzination, in einem Bescheid auf, lässt er sich angreifen.

Einführung in einer Kommune
- Bestand aufnehmen: Welche KI-Werkzeuge nutzen Beschäftigte heute schon, auch privat für dienstliche Zwecke? Wer diese Nutzung kennt, weiß, wo eine Regelung zuerst ansetzen muss.
- Entscheidung der Behördenleitung herbeiführen: welche Systeme, für welche Zwecke, mit welchen Daten.
- System wählen: eigene oder gemeinsam betriebene Lösung, etwa eine Nachnutzung von F13, oder ein Cloud-Dienst mit Vertrag und geklärtem Verarbeitungsort.
- Personalrat, Datenschutzbeauftragte und Informationssicherheit einbinden und eine Dienstvereinbarung schließen, im Rahmen einer KI-Governance mit klaren Zuständigkeiten.
- Schulen, mit Textarbeit beginnen, Erfahrungen auswerten.
- Erst danach prüfen, ob KI in Fachverfahren eingesetzt wird, und bei Leistungsentscheidungen die Hochrisiko-Pflichten einplanen.
Was das für dich heißt
In deiner Verwaltung soll KI Arbeit abnehmen, ohne dass dabei Vorgaben zu Datenschutz und Verfahren verletzt werden.
- Kläre, welche Systeme deine Behördenleitung freigegeben hat und welche Daten hineindürfen.
- Prüfe jeden KI-Entwurf fachlich, besonders Fundstellen und Rechtsstände.
- Frag nach dem Schulungsangebot deiner Behörde und dokumentiere die Teilnahme.
- Plane bei Leistungsentscheidungen mit KI die Grundrechte-Folgenabschätzung frühzeitig ein.
Häufige Fragen
Welche Pflichten hat eine Behörde nach dem AI Act?
Für alle KI-Systeme gelten die Pflicht zur KI-Kompetenz und die Transparenzpflichten nach Artikel 50. Bei Hochrisiko-Systemen, etwa zur Prüfung von Sozialleistungen, kommen ab dem 02.12.2027 Grundrechte-Folgenabschätzung, Registrierung in der EU-Datenbank und die Information der Betroffenen hinzu.
Können Behörden Bußgelder nach dem AI Act bekommen?
Nach § 17 Absatz 2 KI-MIG werden gegen Behörden und sonstige öffentliche Stellen keine Geldbußen verhängt. Die Aufsicht kann trotzdem Maßnahmen anordnen.
Dürfen Beschäftigte im Amt ChatGPT nutzen?
Das entscheidet die Behördenleitung. Nach den Leitlinien des Bundes dürfen ohne besondere Freigabe nur öffentliche Daten in solche Systeme, und jedes Ergebnis muss fachlich geprüft werden.
Darf eine KI Bescheide automatisch erlassen?
Nur wenn eine Rechtsvorschrift den vollautomatischen Erlass zulässt und kein Ermessen oder Beurteilungsspielraum besteht. In allen anderen Fällen kann KI den Bescheid vorbereiten, entscheiden muss ein Mensch.
Keine Rechtsberatung. Der Beitrag gibt den Stand vom 22.11.2026 wieder. Lass deinen eigenen Fall fachkundig prüfen.
Quellen
Stand:
- Bundesministerium des Innern und der Beauftragte der Bundesregierung für Informationstechnik: Leitlinien für den Einsatz Künstlicher Intelligenz in der Bundesverwaltung, Stand 03/2025, abgerufen am 22.11.2026. zurück
- Bundesministerium für Digitales und Staatsmodernisierung: KI-Guide: Ihr Umsetzungsfahrplan für KI-Systeme in der Verwaltung, Version 1.0, Stand 11/2025, abgerufen am 22.11.2026. zurück
- Landesregierung Baden-Württemberg: KI-Assistenz F13 wird zur Open-Source-Software, Stand 23.07.2025, abgerufen am 22.11.2026. zurück
- EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27.07.2026, Artikel 3, 4, 26, 27, 49, 50, 86, 111, 113 und Anhang III, Stand 27.07.2026, abgerufen am 22.11.2026. zurück
- Bundesgesetzblatt (recht.bund.de): Gesetz zur Durchführung der Verordnung über künstliche Intelligenz, BGBl. 2026 I Nr. 223 (KI-MIG § 2, § 9 und § 17), Stand 28.07.2026, abgerufen am 22.11.2026. zurück
- Bundesnetzagentur: KI-Service-Desk und KI-Kompetenz, Stand 2026, abgerufen am 22.11.2026. zurück
- Bundesministerium der Justiz (gesetze-im-internet.de): Verwaltungsverfahrensgesetz, § 35a Vollständig automatisierter Erlass eines Verwaltungsaktes, abgerufen am 22.11.2026. zurück
- EUR-Lex: Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Artikel 22, Stand 2016, abgerufen am 22.11.2026. zurück
- Bundesnetzagentur: KI-Kompetenz, Stand 2026, abgerufen am 22.11.2026. zurück





