Ethische Fragen zu KI klingen abstrakt, bis man sie umformuliert: Wer bekommt den Job? Wer bekommt den Kredit? Wer wird zu Unrecht verdächtigt? Die Antworten fallen zunehmend in Systemen, die niemand vollständig erklären kann.
Warum KI andere Fragen aufwirft als Software
Das System leitet sein Verhalten aus Daten ab, statt es vorgeschrieben zu bekommen. Niemand hat die Regel formuliert, nach der es entscheidet.
Bei Millionen Parametern gibt es keinen nachlesbaren Entscheidungsweg. Erklärungen werden nachträglich rekonstruiert.
Ein Fehler wirkt nicht auf einen Fall, sondern auf alle gleichartigen Fälle gleichzeitig – und meist unbemerkt.
Konfliktlinie 1: Bias
Bias entsteht selten durch fehlerhaften Programmcode. Er entsteht, weil die Trainingsdaten bestehende Ungleichheiten abbilden und das Modell sie fortschreibt.
„Wir haben Geschlecht und Herkunft aus den Daten entfernt, also kann das System nicht diskriminieren." Kann es doch. Postleitzahl, Vorname, Ausbildungsort oder eine Lücke im Lebenslauf stellen dieselbe Unterscheidung her. Nachweisen lässt sich das nur, indem die Ergebnisse nach Gruppen ausgewertet werden.
Konfliktlinie 2: Überwachung
Automatisierte Auswertung großer Datenmengen verschiebt das Verhältnis zwischen Sicherheit und Freiheit. Vier Fragen haben sich als Prüfraster bewährt:
- Verhältnismäßigkeit – steht der Eingriff im Verhältnis zum Zweck?
- Transparenz – wissen Betroffene, dass und wie ausgewertet wird?
- Rechenschaft – wer haftet bei falschen Treffern?
- Unabhängige Kontrolle – prüft jemand von außen?
Konfliktlinie 3: Verantwortung
Die schwierigste Frage ist nicht, ob ein System Fehler macht, sondern wer sie zu verantworten hat, wenn niemand mehr eine Entscheidung getroffen hat.
| Modell | Rolle des Menschen | Typischer Einsatz |
|---|---|---|
| Human in the Loop | Entscheidet, das System schlägt vor | Medizin, Justiz, Personalauswahl |
| Human on the Loop | Überwacht, greift bei Bedarf ein | Assistierte Fahrfunktionen, Betriebsüberwachung |
| Vollautomatisierung | Keine laufende Beteiligung | Spamfilter, Hochfrequenzhandel |
Was in der Praxis wirkt
- Ergebnisse nach Gruppen messen
Nicht die Gesamtgenauigkeit, sondern die Genauigkeit je Gruppe. Erst diese Aufschlüsselung zeigt eine Benachteiligung.
- Grenzen dokumentieren, nicht Leistung
Der nützlichste Abschnitt einer Modelldokumentation ist der über die Fälle, in denen das System nicht funktioniert.
- Widerspruchsweg einrichten
Betroffene brauchen eine erreichbare Stelle und eine Person, die die Entscheidung überprüfen kann und darf.
- Zusammensetzung des Teams prüfen
Eine homogene Gruppe übersieht zuverlässig dieselben Dinge. Das ist keine Haltungsfrage, sondern eine Fehlerquelle.