Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Unternehmen

KI sicher einsetzen

Kurzantwort

Das BSI empfiehlt Betrieben, ihre Angriffsfläche zu kennen und zu verkleinern, Sicherheitsupdates innerhalb von Stunden einzuspielen, Mehr-Faktor-Anmeldung zu erzwingen, Backups getrennt aufzubewahren und Beschäftigte für KI-gestütztes Phishing zu sensibilisieren⁠1. Für KI-Werkzeuge selbst kommen Regeln für sensible Daten und Schutz gegen versteckte Anweisungen in Dokumenten dazu⁠23. Die Checkliste unten fasst das für kleine Betriebe zusammen.

Autor
Veröffentlicht
Geprüft
Lesezeit
7 Minuten
Eine Technikerin kniet vor einem offenen Serverschrank und prüft mit einer Taschenlampe die Kabel
Der Basisschutz beginnt mit dem Überblick über alle Systeme. Bild: KI-generiert

Eine einzelne amtliche Checkliste für KI im kleinen Betrieb gibt das BSI nicht heraus. Seine Empfehlungen verteilen sich auf mehrere Papiere, die sich vor allem an IT-Abteilungen und Entwickler richten. Wir haben die für kleine und mittlere Betriebe wichtigen Punkte herausgezogen und in Alltagssprache übersetzt; die Checkliste weiter unten lässt sich ausdrucken und abhaken.

Was das BSI zu KI veröffentlicht hat

Am 22.06.2026 hat das Bundesamt für Sicherheit in der Informationstechnik eine IT-Sicherheitsinformation zu den Auswirkungen von KI auf die Cybersicherheit von Organisationen herausgegeben, eingestuft in Kritikalität 2 (Gelb): Maßnahmen müssen zeitnah ergriffen werden⁠1. Die Kernaussage lautet, dass KI Aufwand, Zeitbedarf und Einstiegshürden für Angriffe deutlich senkt, während Verteidiger an Testaufwand, Wartungsfenster und knappes Personal gebunden bleiben⁠1.

Dazu kommen ein Papier zu Chancen und Risiken generativer KI-Modelle in der Version 2.0 vom 17.01.2025⁠3 und ein Basisschutz gegen versteckte Anweisungen in Dokumenten, die in KI-Chats hochgeladen werden. Das Papier trägt die Version 1.0 vom 14.09.2026, die Downloadseite des BSI das Datum 24.09.2026⁠2. Im Oktober 2026 veröffentlichten BSI und TÜV-Verband eine Befragung unter mehr als 500 Unternehmen ab 20 Beschäftigten⁠4.

Vier Risiken im Alltag

Datenabfluss

Was jemand in einen Chat-Assistenten tippt oder hochlädt, verlässt den Betrieb. Je nach Tarif speichert der Anbieter die Eingaben oder nutzt sie für das Training. Das BSI rät Nutzenden, sparsam mit sensiblen Daten umzugehen, bei der Anmeldung, bei Eingaben und bei Daten, auf die ein Modell über Schnittstellen zugreifen kann⁠3. Für Betriebe heißt das: Nur freigegebene Tarife mit Vertrag nutzen und festlegen, welche Daten nie hineingehören. Die Datenschutzseite dazu ist KI und Datenschutz.

Dazu kommt ein Risiko, das weniger bekannt ist: Angreifer versuchen, aus Modellen Trainingsdaten, frühere Eingaben anderer Nutzer oder Inhalte angebundener Wissensdatenbanken herauszulocken. Das BSI weist darauf hin, dass solche Daten keinen Personenbezug haben müssen und auch Geschäftsgeheimnisse sein können⁠3. Wer eigene Unterlagen an einen Chatbot anbindet, sollte deshalb prüfen, wer diesen Chatbot befragen darf.

Schatten-KI

Wenn Beschäftigte private Konten oder Browsererweiterungen nutzen, weiß niemand, welche Daten wohin gehen. Diese Schatten-KI entsteht meist, weil ein brauchbares freigegebenes Werkzeug fehlt. Ein Verbot hilft selten. Wirksamer ist eine Liste erlaubter Werkzeuge mit klaren Datenregeln, wie sie unter KI-Richtlinie im Betrieb beschrieben ist. Das BSI empfiehlt ohnehin, einen Überblick über alle betriebenen Anwendungen zu haben, auch über die in der Cloud⁠1.

Phishing und Deepfakes mit KI

Angreifer nutzen KI, um gezielte Phishing-Mails mit Angaben von der Firmenwebsite oder aus sozialen Netzwerken zu schreiben, und das mit wenig Aufwand und automatisiert⁠1. Das BSI warnt außerdem vor Anrufen mit gefälschter Stimme und Videokonferenzen mit Deepfakes, die schwer zu erkennen sind⁠1. In der gemeinsamen Studie mit dem TÜV-Verband berichteten 17 Prozent der Unternehmen von bestätigten oder vermuteten KI-gestützten Angriffen; von diesen nannten 90 Prozent überzeugende Phishing-Mails und 11 Prozent Deepfakes⁠4. Wie die Masche mit geklonten Stimmen funktioniert, zeigt KI-Enkeltrick erkennen.

An der Rechtschreibung erkennt man solche Mails kaum noch. Verlässlicher sind die alten Warnzeichen: Zeitdruck, ungewöhnliche Wege für Zahlungen, die Bitte um Verschwiegenheit und Absender, die knapp neben der echten Adresse liegen. Wer bei einer Zahlungsanweisung immer über eine bekannte Nummer zurückruft, entschärft auch den perfekt formulierten Betrugsversuch.

Versteckte Anweisungen

Sprachmodelle können nicht zuverlässig unterscheiden, ob ein Satz eine Anweisung des Nutzers ist oder Inhalt eines Dokuments. Angreifer verstecken deshalb Befehle in Webseiten, Mails oder Dateien, etwa in weißer Schrift auf weißem Grund oder in unsichtbaren Zeichen⁠2. Das nennt man Prompt Injection. Typische Folgen sind Datenabflüsse, die Preisgabe interner Anweisungen oder falsche Ergebnisse⁠2. Kritisch wird es, wenn ein KI-System selbst Aktionen auslösen darf, also Mails verschickt, Dateien ändert oder Programme ausführt⁠1.

Das BSI hat dafür fünf Basismaßnahmen beschrieben: Eingaben bereinigen, Vertrauensbereiche im Prompt trennen, einen gehärteten Systemprompt verwenden, das Modell bewusst auswählen und ausgehende Links und Daten filtern⁠2. Es betont zugleich, dass keine Gegenmaßnahme das Problem vollständig beseitigt⁠2. Die technischen Einzelheiten erklärt Schutz vor Prompt Injection.

Eine Büroangestellte telefoniert mit besorgtem Gesichtsausdruck, die andere Hand liegt auf einem geschlossenen Notizbuch
Anrufe mit geklonter Stimme sind schwer zu erkennen. Bild: KI-generiert

Basisschutz in Alltagssprache

Matrix mit den Risiken Datenabfluss, Schatten-KI, Phishing und Prompt Injection und den passenden Schutzmaßnahmen nach BSI
  1. Überblick Liste und Freigabe
  2. Rechte zweiter Faktor, knappe Rechte
  3. Schulung Phishing und Datenregeln
  4. Technik Updates, Backups, Filter
Risiken und Schutzmaßnahmen nach den Papieren des BSI. Grafik: KI-Blog

Die IT-Sicherheitsinformation vom Juni 2026 nennt Maßnahmen, die das BSI ausdrücklich als nicht neu bezeichnet, die in der Praxis aber oft vernachlässigt werden⁠1. Übersetzt für einen kleinen Betrieb:

Wisse, welche Geräte, Programme und Zugänge es gibt und welche davon aus dem Internet erreichbar sind. Alles, was nicht erreichbar sein muss, wird abgeschaltet oder auf vertrauenswürdige Zugänge beschränkt⁠1.

Spiel Sicherheitsupdates schnell ein, bei Systemen, die aus dem Internet erreichbar sind, innerhalb weniger Stunden. Das BSI hält wenige Tage nicht mehr für eine angemessene Reaktionszeit⁠1. Ersetze Geräte und Software rechtzeitig, bevor der Hersteller sie nicht mehr pflegt.

Nutze die Anmeldung mit einem zweiten Faktor überall, wo sie möglich ist, und gib jedem nur die Rechte, die er braucht⁠1. Das gilt auch für KI-Werkzeuge: Ein Chat-Assistent mit Zugriff auf das gesamte Firmenlaufwerk ist ein größeres Risiko als einer, der nur einen Ordner sieht.

Halte Backups getrennt vom übrigen Netz, für wichtige Daten auch offline, und probiere aus, ob sich die Sicherung wirklich zurückspielen lässt⁠1.

Schule das Team regelmäßig zu Phishing, auch zu gut gemachten Mails mit persönlicher Ansprache, zu Anrufen mit KI-Stimmen und zu gefälschten Videokonferenzen⁠1. Vereinbare für Zahlungen und Passwortänderungen einen Rückruf über eine bekannte Nummer.

Leg fest, wer im Notfall was tut, und kläre vorab, welcher Dienstleister helfen kann. Das BSI führt Listen qualifizierter Dienstleister für Vorfallsbearbeitung⁠1.

Die Checkliste

Hak ab, was bei dir umgesetzt ist. Jeder offene Punkt ist eine Aufgabe für die nächsten Wochen.

  • Es gibt eine Liste aller Geräte, Programme, Cloud-Dienste und KI-Werkzeuge im Betrieb.
  • Wir wissen, welche Systeme aus dem Internet erreichbar sind, und haben unnötige Zugänge geschlossen.
  • Sicherheitsupdates werden zeitnah eingespielt, bei erreichbaren Systemen innerhalb von Stunden.
  • Alle Zugänge, auch zu KI-Diensten, nutzen einen zweiten Faktor bei der Anmeldung.
  • Jede Person hat nur die Rechte, die sie für ihre Arbeit braucht.
  • Backups liegen getrennt, und das Zurückspielen wurde ausprobiert.
  • Nur freigegebene KI-Werkzeuge sind erlaubt, mit Vertrag und ohne Training mit unseren Daten.
  • Schriftlich ist festgelegt, welche Daten nie in ein KI-Werkzeug gehören.
  • KI-Ergebnisse werden vor der Weitergabe von einem Menschen geprüft.
  • KI-Systeme, die Mails senden, Dateien ändern oder Programme starten, brauchen vor jeder heiklen Aktion eine menschliche Bestätigung.
  • Das Team ist zu KI-Phishing, Stimmenklonen und Deepfake-Anrufen geschult.
  • Für Überweisungen und Passwortänderungen gilt ein Rückruf über eine bekannte Nummer.
  • Es gibt einen Notfallplan mit Ansprechpersonen, auch außerhalb der Arbeitszeit.
Ein Mann hakt in einem kleinen Büro Punkte auf einem Klemmbrett ab, daneben ein zugeklappter Laptop und eine weiße Tasse
Jeder offene Punkt ist eine Aufgabe für die nächsten Wochen. Bild: KI-generiert

KI-Automatisierung absichern

Je mehr ein KI-System selbst tun darf, desto wichtiger wird die Absicherung. Das BSI empfiehlt, KI-Komponenten wie andere sicherheitskritische Systeme zu behandeln und mit Isolation, Prüfschichten und Berechtigungskonzepten abzusichern⁠1. Modelle können schon vor dem Einsatz manipuliert sein; deshalb gilt wie bei jeder Software, nur Komponenten aus vertrauenswürdigen Quellen einzusetzen⁠1.

Für einen kleinen Betrieb mit einer Automatisierung, die etwa Mails vorsortiert oder Rechnungen weiterleitet, bedeutet das: eigene Zugänge mit knappen Rechten für die Automatisierung, keine Weitergabe an externe Empfänger ohne Freigabe, Protokolle über das, was das System getan hat, und eine Person, die diese Protokolle ansieht. Wer KI-Agenten plant, liest vorher KI-Agenten im Unternehmen.

KI als Hilfe für die eigene Sicherheit

Das BSI sieht auch Chancen. Betreiber können KI-Werkzeuge nutzen, um ihre eigene IT zu überprüfen und zu überwachen, ähnlich wie Angreifer bei Tests vorgehen⁠1. Hersteller setzen KI ein, um Produkte vor dem Marktstart auf Schwachstellen zu testen⁠1. Das BSI betont aber, dass solche Werkzeuge andere Maßnahmen nur ergänzen dürfen⁠1. In der Befragung nutzten 31 Prozent der Unternehmen mit KI diese auch, um ihre IT-Sicherheit zu verbessern⁠4.

Für kleine Betriebe ist das meist eine Frage an den IT-Dienstleister: Welche Werkzeuge setzt er für Überwachung und Updates ein, und wie schnell reagiert er, wenn eine Lücke bekannt wird?

Wo andere Betriebe stehen

Die KI-Sicherheitsstudie zeigt, wo die Lücken liegen. 49 Prozent der Unternehmen setzten KI ein. Unter den Unternehmen, die KI nutzen oder planen, hatten nur 11 Prozent eigene Abläufe für KI-bezogene Sicherheitsvorfälle und 25 Prozent gar keine Regelungen⁠4. Von den Unternehmen mit KI-Einsatz nannten bei den technischen Schutzmaßnahmen 67 Prozent die Prüfung kritischer Ausgaben durch Menschen, 64 Prozent eingeschränkte Zugriffsrechte und 40 Prozent Protokollierung oder Überwachung⁠4. Schulungen boten 56 Prozent an⁠4.

Was das für dich heißt

Die meisten Punkte kosten wenig Geld, aber feste Zeit von jemandem, der sich kümmert.

  1. Geh die Checkliste mit der Person durch, die bei euch die IT betreut, und notiere offene Punkte mit Termin.
  2. Schalte bei allen KI-Diensten und E-Mail-Konten die Anmeldung mit zweitem Faktor ein.
  3. Führe eine Rückrufregel für Zahlungen und Passwortänderungen ein und erkläre sie im Team.
  4. Gib KI-Werkzeugen nur Zugriff auf die Ordner, die sie wirklich brauchen.

Häufige Fragen

Gibt es eine offizielle BSI-Checkliste für KI?

Eine einzelne Checkliste für kleine Betriebe veröffentlicht das BSI nicht. Es gibt eine IT-Sicherheitsinformation zu KI vom 22.06.2026, ein Papier zu generativen KI-Modellen und einen Basisschutz gegen Prompt Injection. Unsere Checkliste fasst die Punkte daraus für kleine Betriebe zusammen.

Ist ein Chat-Assistent im Browser ein Sicherheitsrisiko?

Vor allem dann, wenn sensible Daten hineingehen oder der Assistent auf viele interne Dateien zugreifen darf. Mit einem freigegebenen Tarif, klaren Datenregeln und knappen Zugriffsrechten lässt sich das Risiko deutlich senken.

Wie schütze ich den Betrieb vor Anrufen mit geklonter Stimme?

Mit einer festen Regel: Zahlungsanweisungen, Kontoänderungen und Passwortwünsche werden immer über eine bekannte Nummer zurückgerufen, egal wie vertraut die Stimme klingt. Das Team sollte diese Masche aus der Schulung kennen.

Was hat KI-Sicherheit mit Datenschutz zu tun?

Beides überschneidet sich beim Datenabfluss. Sicherheit schützt vor Angriffen und Verlust, Datenschutz regelt, ob personenbezogene Daten überhaupt verarbeitet werden dürfen. Das BSI äußert sich ausdrücklich nicht zu Datenschutzfragen im rechtlichen Sinn.

Quellen

Stand:

  1. Bundesamt für Sicherheit in der Informationstechnik: Auswirkungen auf die Cybersicherheit von Organisationen durch die Entwicklung im Bereich Künstlicher Intelligenz (BITS-B Nr. 2026-262788-1032, Version 1.0), Stand 22.06.2026, abgerufen am 22.11.2026. zurück
  2. Bundesamt für Sicherheit in der Informationstechnik: Basisschutz gegen Indirect Prompt Injections in dokumentbasierten LLM-Chats, Version 1.0, Stand 14.09.2026, abgerufen am 22.11.2026. zurück
  3. Bundesamt für Sicherheit in der Informationstechnik: Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden, Version 2.0, Stand 17.01.2025, abgerufen am 22.11.2026. zurück
  4. Bundesamt für Sicherheit in der Informationstechnik: Nur jedes zehnte Unternehmen gegen KI-gestützte Angriffe gerüstet (Pressemitteilung zur KI-Sicherheitsstudie 2026), Stand 07.10.2026, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert

Aus dem Lexikon

Bilder: KI-generiert