Was ist Explainable AI?

Kurz-Fakten

• Verbreitete Verfahren sind unter anderem LIME und SHAP
• Eine Erklärung erklärt das Modellverhalten, nicht die Wirklichkeit
• Bei Hochrisiko-Systemen verlangt die KI-Verordnung Nachvollziehbarkeit und menschliche Aufsicht
• Einfachere Modelle sind oft von sich aus erklärbar – das kann die bessere Wahl sein

Bedeutung in der Praxis

Der letzte Punkt wird selten angeboten und ist doch häufig richtig. Wenn ein Entscheidungsbaum 95 Prozent der Genauigkeit eines neuronalen Netzes erreicht und dabei nachlesbar bleibt, ist er in einem regulierten Umfeld die bessere Lösung.

Verwandte Begriffe

• Deep Learning Deep Learning ist maschinelles Lernen mit künstlichen neuronalen Netzen, die aus vielen…
• Bias Bias bezeichnet die systematische Benachteiligung bestimmter Gruppen durch ein…
• Human in the Loop Human in the Loop bezeichnet einen Aufbau, bei dem ein KI-System Vorschläge macht, die…