Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Unternehmen

KI daten­schutz­konform nutzen

Kurzantwort

Sobald Beschäftigte personenbezogene Daten in einen KI-Dienst eingeben, verarbeitet das Unternehmen diese Daten und braucht eine Rechtsgrundlage, in der Regel einen Vertrag zur Auftragsverarbeitung mit dem Anbieter und klare Regeln zum Training⁠12. Die Datenschutzkonferenz hält Dienste für vorzugswürdig, die Eingaben nicht zum Training nutzen, und technisch geschlossene Systeme für besser als offene⁠2. Beim Einsatz von KI ist nach ihrer Einschätzung vielfach eine Datenschutz-Folgenabschätzung nötig⁠2.

Autor
Veröffentlicht
Geprüft
Lesezeit
7 Minuten
Braune Mappe mit kleinem Messingschloss an einem Lederriemen neben einem zugeklappten Laptop und einer leeren Karteikarte auf einem hellen Eichentisch
Personaldaten und Kundendaten gehören nur in KI-Dienste mit klaren Verträgen. Bild: KI-generiert

Ein Kundenschreiben, das jemand in einen Chatdienst kopiert, um eine Antwort entwerfen zu lassen, verlässt das Unternehmen. Datenschutzrechtlich ist das eine Verarbeitung personenbezogener Daten, oft durch einen Anbieter außerhalb der EU, und dafür gelten dieselben Regeln wie für jede andere Software. Vier Fragen entscheiden, ob der Einsatz zulässig ist: Wo werden die Daten verarbeitet? Gibt es einen Vertrag, der den Anbieter bindet? Fließen die Eingaben ins Training? Und ist das Risiko so hoch, dass vorher eine Folgenabschätzung nötig ist⁠12?

Wann der Datenschutz greift

Die Datenschutz-Grundverordnung betrifft personenbezogene Daten, also alles, was sich einer bestimmten oder bestimmbaren Person zuordnen lässt. Bei KI tauchen solche Daten an mehreren Stellen auf: in Prompts und hochgeladenen Dateien, in den Antworten, im gespeicherten Verlauf und in den Nutzungsdaten der Beschäftigten, die den Dienst bedienen. Auch ein Name in einer E-Mail, eine Kundennummer oder ein Foto aus der Personalakte genügt.

Offene Systeme bergen dabei ein besonderes Risiko. Die Datenschutzkonferenz beschreibt sie als Cloud-Anwendungen, die einem unbestimmten Nutzerkreis offenstehen, sodass Eingaben den geschützten Bereich verlassen und je nach Aufbau für Antworten an andere Nutzer verwendet werden können⁠2. Geschlossene Systeme laufen in einer abgegrenzten Umgebung, nur ein enger Kreis hat Zugriff, und die Kontrolle über Ein- und Ausgaben bleibt beim Anwender⁠2. Technisch geschlossene Systeme sind nach ihrer Orientierungshilfe aus Sicht des Datenschutzes vorzugswürdig⁠2.

Verarbeitungsort und Übermittlung in Drittländer

Der Firmensitz eines Anbieters sagt wenig darüber, wo ein Modell tatsächlich rechnet. Bei offenen Systemen sind Übermittlungen in Drittstaaten häufig, und dafür gelten die Regeln in Kapitel V der Datenschutz-Grundverordnung⁠2. Jede Übermittlung in ein Drittland ist nach Artikel 44 nur zulässig, wenn diese Bedingungen eingehalten werden und das Schutzniveau nicht untergraben wird⁠1. Hat die Kommission für ein Land einen Angemessenheitsbeschluss erlassen, ist keine besondere Genehmigung nötig, und die Kommission überprüft solche Beschlüsse mindestens alle vier Jahre⁠1.

In der Praxis heißt das: Frag den Anbieter, in welchen Rechenzentren Eingaben verarbeitet und gespeichert werden, welche Unterauftragnehmer beteiligt sind und auf welcher Grundlage Daten in Drittländer gehen. Ob ein Anbieter eine Verarbeitung in der EU zusichert, steht in seinen Vertragsunterlagen für Geschäftskunden.

Kleiner alter Tischglobus neben einer Reihe grauer externer Festplatten auf einem weißen Regal
Wo ein Modell rechnet, verrät der Firmensitz des Anbieters nicht. Bild: KI-generiert

Auftragsverarbeitung

Nutzt ein Unternehmen eine KI-Anwendung eines externen Anbieters, etwa als Cloud-Lösung, handelt der Anbieter nach der Orientierungshilfe als verlängerter Arm im Auftrag, und es besteht häufig ein Auftragsverarbeitungsverhältnis⁠2. Dann ist ein Vertrag nach Artikel 28 Absatz 3 nötig⁠2. Er muss Gegenstand, Dauer, Zweck, Datenarten und Kategorien der Betroffenen festlegen und unter anderem regeln, dass der Anbieter nur auf dokumentierte Weisung verarbeitet, die Sicherheit gewährleistet und Daten nach Abschluss löscht oder zurückgibt⁠1. Der Verantwortliche darf nur Anbieter beauftragen, die hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bieten⁠1. Üblich ist die Abkürzung AVV.

Besonders wichtig bei KI ist die Kette dahinter. Eine Anwendung kann auf dem Modell eines anderen Anbieters aufbauen. Ein Auftragsverarbeiter darf weitere Auftragsverarbeiter nur mit Genehmigung einsetzen und muss bei einer allgemeinen Genehmigung über Änderungen informieren, damit der Verantwortliche widersprechen kann⁠1. Ein Vertrag mit dem App-Anbieter allein reicht also nur, wenn er die Modellanbieter im Hintergrund als Unterauftragnehmer ausweist.

Entwickeln mehrere Stellen eine KI-Anwendung gemeinsam weiter oder speisen sie mit eigenen Datensätzen, kann statt einer Auftragsverarbeitung eine gemeinsame Verantwortlichkeit nach Artikel 26 vorliegen⁠2. Dann braucht es eine Vereinbarung, wer welche Pflichten erfüllt, und jede Stelle braucht eine eigene Rechtsgrundlage⁠2.

Training mit Eingaben

Manche Dienste verwenden Eingaben, um ihre Modelle zu verbessern. Die Datenschutzkonferenz verlangt zu prüfen, ob Ein- und Ausgaben für das Training genutzt werden, ob darüber informiert wird und ob sich das ausschließen lässt⁠2. Geht das nicht und sind personenbezogene Daten betroffen, braucht es für diesen Zweck eine eigene Rechtsgrundlage⁠2. Vorzugswürdig sind Anwendungen, die Ein- und Ausgaben nicht zum Training verwenden⁠2.

Am Beispiel ChatGPT: Privat lässt sich das Training in den Datenkontrollen abschalten, Geschäftskonten und die Schnittstelle nutzt OpenAI nach eigener Angabe standardmäßig nicht dafür, und temporäre Chats bewahrt OpenAI laut Hilfe-Center höchstens 30 Tage zur Sicherheit auf⁠4. Für ein Unternehmen heißt das: Ein Geschäftskonto mit Vertrag ist etwas anderes als ein privates Konto mit abgeschaltetem Schalter.

Auch ohne Training speichern Anbieter Eingaben oft eine Zeit lang. Microsoft schreibt zum Beispiel, dass es Eingaben und Ausgaben seiner KI-Dienste verarbeitet und speichert, um Missbrauch zu überwachen und zu verhindern⁠5. Wie lange Verläufe gespeichert bleiben und wer Zugriff hat, gehört deshalb zu den Fragen an jeden Anbieter.

Auch das Modell selbst kann personenbezogene Daten enthalten. Wurde es mit solchen Trainingsdaten entwickelt, gilt es nach der Stellungnahme des Europäischen Datenschutzausschusses vom 18.12.2024 nur dann als anonym, wenn Identifizierung und Herausfragen der Daten sehr unwahrscheinlich sind⁠3.

Leeres Glasgefäß mit Korkdeckel auf hellem Leinen, davor verstreute leere Karteikarten, eine davon halb im Glas
Ob Eingaben ins Training fließen, lässt sich bei vielen Diensten einstellen. Bild: KI-generiert

Rechtsgrundlage

Jede Verarbeitung braucht eine Rechtsgrundlage nach Artikel 6. Für Unternehmen kommen nach dem Bitkom-Leitfaden vor allem die Einwilligung, die Erfüllung eines Vertrags und berechtigte Interessen in Betracht; die ersten beiden tragen in der Praxis selten, weil Einwilligungen widerruflich sind und KI-Systeme für einen Vertrag kaum je im strengen Sinn erforderlich sind⁠7. Übrig bleiben die berechtigten Interessen, bei denen das Unternehmen sie gegen die Interessen der Betroffenen abwägen muss. Der Europäische Datenschutzausschuss nennt als Beispiel einen Gesprächsassistenten für Nutzer, der sich auf berechtigte Interessen stützen kann, wenn die Verarbeitung nachweislich unbedingt erforderlich ist und die Abwägung zugunsten des Unternehmens ausfällt⁠3.

Datenschutz-Folgenabschätzung

Hat eine Verarbeitung, insbesondere mit neuen Technologien, voraussichtlich ein hohes Risiko für die Rechte und Freiheiten von Personen, muss der Verantwortliche vorher eine Folgenabschätzung durchführen⁠1. Beim Einsatz von KI-Anwendungen wird das nach der Orientierungshilfe vielfach der Fall sein⁠2. Die Aufsichtsbehörden veröffentlichen dazu Listen von Verarbeitungen, für die eine Datenschutz-Folgenabschätzung Pflicht ist⁠2. Weil das Unternehmen für die Abschätzung Informationen über die Funktionsweise des Systems braucht, sollte es schon bei der Auswahl darauf achten, dass der Anbieter sie liefert⁠2.

Transparenz und Rechte der Betroffenen

Wer KI einsetzt, muss die Betroffenen informieren. Entwickelt das Unternehmen die Anwendung nicht selbst, braucht es vom Anbieter genug Dokumentation, um die Informationspflichten zu erfüllen⁠2. Trifft ein System automatisiert Entscheidungen mit Rechtswirkung, sind solche Entscheidungen nach Artikel 22 grundsätzlich unzulässig, und über die beteiligte Logik muss informiert werden⁠2. Betroffene haben außerdem ein Recht auf Berichtigung und Löschung; dafür müssen Verfahren bestehen, die in einer KI-Anwendung auch funktionieren, etwa durch Korrektur von Daten oder ein Nachtraining⁠2.

Beschäftigte und interne Regeln

Ohne klare Regeln nutzen Beschäftigte KI-Werkzeuge auf eigene Faust, und die Datenschutzkonferenz geht davon aus, dass das in vielen Unternehmen schon Realität ist⁠2. Diese Schatten-KI lässt sich nur mit dokumentierten Weisungen eindämmen, die festlegen, welche Anwendungen zu welchen Zwecken erlaubt sind, am besten mit Beispielen⁠2. Datenschutzbeauftragte und Betriebsrat sollten früh eingebunden werden⁠2. Wie weit der Arbeitgeber dabei über sein Weisungsrecht gehen darf, ist eine Frage des Arbeitsrechts; die Weisungen selbst lassen sich in einer KI-Richtlinie bündeln.

Prüfweg vor dem Einsatz eines KI-Dienstes

Entscheidungsweg mit sechs Prüffragen vor dem Einsatz eines KI-Dienstes mit personenbezogenen Daten
  1. Ja weiter
  2. Nein nachbessern
Prüfweg vor dem Einsatz eines KI-Dienstes. Grafik: KI-Blog
  1. Lege fest, wofür der Dienst eingesetzt werden soll und welche Daten dabei anfallen.
  2. Prüf, ob personenbezogene Daten überhaupt nötig sind oder ob anonymisierte Eingaben reichen.
  3. Kläre, wo der Anbieter verarbeitet und speichert und ob Daten in Drittländer gehen⁠1.
  4. Schließe einen Vertrag zur Auftragsverarbeitung und lass dir die Unterauftragnehmer nennen⁠1.
  5. Stell sicher, dass Eingaben nicht zum Training genutzt werden, oder schaffe dafür eine Rechtsgrundlage⁠2.
  6. Bestimme die Rechtsgrundlage für die Verarbeitung selbst.
  7. Mach eine Vorabprüfung des Risikos und bei hohem Risiko eine Folgenabschätzung⁠12.
  8. Ergänze die Datenschutzhinweise und das Verzeichnis der Verarbeitungstätigkeiten.
  9. Stelle Konten bereit, regle die Nutzung schriftlich und schule die Beschäftigten.
  10. Prüf regelmäßig, ob sich Bedingungen oder Funktionen des Dienstes geändert haben.

Lokale und europäische Alternativen

Wer sensible Daten verarbeitet, kann ein Modell auf eigenen Servern betreiben. Das entspricht dem geschlossenen System, das die Datenschutzkonferenz bevorzugt⁠2. Daneben gibt es Cloud-Dienste mit EU-Verarbeitung und Vertrag zur Auftragsverarbeitung (DSGVO-konforme KI) und Anbieter mit Sitz in Europa (KI aus Europa); der Sitz allein sagt aber noch nichts über den Verarbeitungsort. Unabhängig vom Datenschutz verlangt der AI Act, Verordnung (EU) 2024/1689, eigene Pflichten, etwa Maßnahmen, damit die Beschäftigten den Umgang mit KI lernen⁠6.

Was das für dich heißt

Bevor im Betrieb ein KI-Dienst mit Kundendaten arbeitet, sollten Vertrag, Verarbeitungsort und Trainingsregeln geklärt sein.

  1. Mach eine Liste aller KI-Dienste, die im Betrieb tatsächlich genutzt werden.
  2. Fordere von jedem Anbieter Auftragsverarbeitungsvertrag, Liste der Unterauftragnehmer und Angaben zum Speicherort an.
  3. Schalte das Training mit Eingaben ab oder nutze Geschäftskonten, die standardmäßig nicht trainieren.
  4. Beziehe die oder den Datenschutzbeauftragten vor der Einführung ein.

Häufige Fragen

Dürfen Unternehmen ChatGPT datenschutzkonform nutzen?

Das ist möglich, wenn ein Geschäftsangebot mit Vertrag zur Auftragsverarbeitung genutzt wird, Eingaben nicht ins Training fließen und die Übermittlung in die USA geregelt ist. Private Konten der Beschäftigten erfüllen diese Bedingungen in der Regel nicht.

Brauche ich für KI immer eine Datenschutz-Folgenabschätzung?

Nicht immer, aber oft. Pflicht ist sie bei voraussichtlich hohem Risiko, und beim Einsatz von KI wird das nach Einschätzung der Datenschutzkonferenz vielfach der Fall sein.

Reicht es, Namen vor der Eingabe zu entfernen?

Nur, wenn sich die Person auch aus dem übrigen Text nicht mehr bestimmen lässt. Kundennummern, Adressen oder seltene Details können eine Person ebenso erkennbar machen.

Ist ein KI-Anbieter mit Sitz in der EU automatisch datenschutzkonform?

Nein. Auch ein europäischer Anbieter kann Modelle anderer Firmen nutzen oder Daten außerhalb der EU verarbeiten; es kommt auf Vertrag, Verarbeitungsort und Unterauftragnehmer an.

Keine Rechtsberatung. Der Beitrag gibt den Stand vom 22.11.2026 wieder. Lass deinen eigenen Fall fachkundig prüfen.

Quellen

Stand:

  1. EUR-Lex: Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Stand 2016, abgerufen am 22.11.2026. zurück
  2. Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0, Stand 06.05.2024, abgerufen am 22.11.2026. zurück
  3. Europäischer Datenschutzausschuss: EDPB opinion on AI models: GDPR principles support responsible AI, Stand 18.12.2024, abgerufen am 22.11.2026. zurück
  4. OpenAI: Data Controls FAQ (Hilfe-Center), Stand 21.11.2026, abgerufen am 22.11.2026. zurück
  5. Microsoft: Servicevertrag, Abschnitt 13 KI-Dienste, Stand 30.09.2026, abgerufen am 22.11.2026. zurück
  6. EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27.07.2026, Stand 27.07.2026, abgerufen am 22.11.2026. zurück
  7. Bitkom: Künstliche Intelligenz und Mitbestimmung: Eckpfeiler einer Betriebsvereinbarung für den KI-Einsatz im Unternehmen, Stand 02/2026, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert

Aus dem Lexikon

Bilder: KI-generiert