Kurz-Fakten
- Geprüft wird gegen Missbrauch, nicht gegen Bedienfehler
- Typische Angriffe: Umgehung von Sperren, Prompt Injection, Herauslocken von Trainingsdaten
- Die Ergebnisse gehören dokumentiert, sonst sind sie nicht nachweisbar
- Einmalige Prüfung genügt nicht – jede Modellaktualisierung verändert das Verhalten
Bedeutung in der Praxis
Für mittelständische Anwendungen genügt oft eine schlanke Fassung: eine Liste von zwanzig bösartigen Anfragen, die nach jeder Änderung durchlaufen wird. Das ist keine vollständige Prüfung, aber es findet die peinlichsten Fälle vor dem Kunden.