Kurz-Fakten
- Drei Hauptquellen: verzerrte Daten, selektive Erhebung, verzerrende Metriken
- Ein Modell ohne Angabe zu Geschlecht oder Herkunft kann trotzdem danach unterscheiden – über Stellvertretermerkmale
- Gegenmaßnahmen sind repräsentative Daten, laufende Messung und gemischt besetzte Teams
- Für Hochrisiko-Systeme verlangt die KI-Verordnung ausdrücklich Datenqualitätsanforderungen
Bedeutung in der Praxis
Der Punkt mit den Stellvertretermerkmalen wird am häufigsten unterschätzt. Postleitzahl, Vorname oder Lücken im Lebenslauf können dieselbe Unterscheidung herstellen wie das ausdrücklich weggelassene Merkmal. Deshalb genügt es nicht, sensible Felder zu entfernen – die Ergebnisse müssen gemessen werden.