Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Gesellschaft

Deepfakes erkennen

Kurzantwort

Am sichersten prüfst du die Herkunft: Wer hat das Video oder die Sprachnachricht zuerst veröffentlicht, und bestätigt eine unabhängige Stelle den Inhalt? Bildfehler und ein metallischer Klang sind Hinweise, gute Fälschungen zeigen sie aber kaum noch⁠13. Bei Anrufen hilft der Rückruf unter der gespeicherten Nummer⁠2.

Autor
Veröffentlicht
Geprüft
Lesezeit
8 Minuten
Zwei helle Theatermasken liegen nebeneinander auf dunkelrotem Samt, eine leicht zur anderen geneigt, weiches Licht von links
Zwei Gesichter, die sich gleichen: Ob ein Video echt ist, zeigt oft erst die Quelle. Bild: KI-generiert

Ob ein Video echt ist, entscheidet sich selten am Bild allein. Die Verbraucherzentrale hält bei gefälschten Werbevideos die Begleitumstände für aussagekräftiger als technische Makel⁠3, und die Polizei empfiehlt die Bestätigung auf einem zweiten Weg⁠2. Die sichtbaren Merkmale lohnen sich trotzdem: Sie sind der Anlass, überhaupt misstrauisch zu werden⁠1. Gemeint sind mit KI gefälschte oder veränderte Videos und Tonaufnahmen, im Fachjargon Deepfake genannt⁠1. Ob das Herstellen oder Teilen strafbar ist, hängt vom Inhalt ab.

Wo dir Deepfakes begegnen

Wie gründlich du prüfen musst, hängt vom Zusammenhang ab. Das BSI beschreibt mehrere Angriffswege⁠1. Bei der Fernidentifikation, etwa einer Videoidentifizierung oder einer Sprechererkennung am Telefon, sollen gefälschte Gesichter und Stimmen eine Prüfung überlisten. Beim Social Engineering geben sich Täter als vertraute Person aus, um an Geld oder Daten zu kommen. Eine Sonderform ist der sogenannte CEO-Fraud: Ein Anruf mit der Stimme einer Führungskraft soll eine Überweisung auslösen. Dazu kommen Desinformation und Verleumdung, bei denen eine echte Person etwas sagt, was sie nie gesagt hat⁠1.

Die Verbraucherzentrale beschreibt gefälschte Werbevideos: Kriminelle lassen bekannte Gesichter für angebliche Finanzangebote und Gesundheitsprodukte werben, und die Prominenten wissen davon meist nichts⁠3. Dabei geht es um Geld, um eine Anmeldung oder eine Bestellung. Sobald ein Video dich zu einer Zahlung, einer Registrierung oder einer Datenangabe bewegen will, lohnt sich der ganze Prüfweg weiter unten.

Woran du gefälschte Videos erkennst

Viele Fälschungen tauschen ein Gesicht gegen ein anderes. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt dafür typische Spuren⁠1:

  • Am Rand des Gesichts entsteht eine Naht. Hautfarbe oder Hautstruktur wechseln, manchmal schimmert das ursprüngliche Gesicht durch, etwa als doppelte Augenbraue.
  • Feine Details wie Zähne und Augen wirken verwaschen.
  • Bei seltener Mimik, bei wechselndem Licht und bei starken Kopfdrehungen verschwimmt das Gesicht. Die Seitenansicht hat das Modell oft schlecht gelernt.

Die Polizeiliche Kriminalprävention nennt zwei weitere Warnzeichen: Die Person bewegt sich seltsam, oder die Lippen passen nicht zum Ton⁠2. Bitte jemanden im Videoanruf deshalb, den Kopf weit zur Seite zu drehen. Starke Drehungen und die Ansicht im Profil sind genau die Lagen, die viele Verfahren schlecht beherrschen⁠1.

Auf diese Fehler solltest du dich aber nicht verlassen. Die Verbraucherzentrale weist ausdrücklich darauf hin, dass gute Deepfakes kaum noch technische Makel zeigen⁠3. Bei Werbevideos, in denen Prominente plötzlich Geldanlagen oder Diätmittel empfehlen, sind die Begleitumstände aussagekräftiger: unrealistische Gewinnversprechen, eine Seite ohne Impressum, eine ausländische Domain⁠3.

Lupe aus Messing auf einem Streifen entwickelter Filmnegative, die auf einem hell leuchtenden Leuchttisch liegen
Bildfehler sind ein Anlass zum Nachprüfen, kein Beweis. Bild: KI-generiert

Woran du eine geklonte Stimme erkennst

Stimmfälschungen haben eigene Schwächen. Das BSI zählt auf, worauf du hören kannst⁠1:

  • Die Stimme klingt metallisch.
  • Einzelne Wörter werden falsch ausgesprochen, etwa englische Begriffe in einem deutschen Satz.
  • Die Betonung ist monoton, Akzent und Sprechweise passen nicht zur echten Person.
  • Es gibt Störgeräusche, besonders bei langen Texten.
  • Zwischen deiner Frage und der Antwort entsteht eine merkliche Verzögerung.

Bei einem guten Stimmenklon hilft das Hören allein kaum: In einer vom International AI Safety Report genannten Studie hielten Zuhörende KI-Stimmen in 80 Prozent der Fälle für echte Sprecher⁠6. Eine Rückfrage, die nur die echte Person beantworten kann, bringt mehr⁠2. Ruft ein angeblicher Angehöriger in Not an, hilft der Ablauf aus der Anleitung zum Enkeltrick mit KI-Stimme.

Im Beruf zielt der CEO-Fraud auf Beschäftigte, die Zahlungen auslösen dürfen⁠1. Die Polizei rät Unternehmen, interne Sicherheitscodes oder feste Rückrufregeln einzuführen und Beschäftigte darauf vorzubereiten⁠2. Eine solche Regel könnte lauten: Zahlungsanweisungen per Telefon oder Videoanruf gelten erst, wenn sie über einen zweiten, vorher vereinbarten Weg bestätigt sind. Das schützt auch dann, wenn die Fälschung technisch perfekt ist.

Altes silbernes Studiomikrofon auf einem abgenutzten Holztisch neben einem geschlossenen schwarzen Kopfhörer vor dunkelgrauem Hintergrund
Eine geklonte Stimme verrät sich manchmal durch Klang und Verzögerung. Bild: KI-generiert

Der Prüfweg in fünf Schritten

Ob Video, Sprachnachricht oder Anruf: Die Reihenfolge bleibt gleich. Sie beginnt mit Abstand und endet mit einer Bestätigung von außen.

Ablauf in fünf Schritten zum Prüfen verdächtiger Videos und Anrufe, vom Innehalten bis zum Rückruf über einen zweiten Kanal
  1. Rot der Schritt, der am meisten Sicherheit gibt
Prüfweg bei verdächtigen Videos und Anrufen. Grafik: KI-Blog
  1. Halte inne, wenn ein Inhalt starke Gefühle weckt oder zu schnellem Handeln drängt. Die Polizei rät, gerade bei plötzlichen und dringenden Geldforderungen zu stoppen, auch wenn die Stimme vertraut klingt⁠2.
  2. Such die Quelle. Wer hat das Video zuerst veröffentlicht? Gibt es Berichte seriöser Medien oder einen Faktencheck dazu? Fehlen Links auf offizielle Kanäle, ist das ein Warnsignal⁠3.
  3. Prüf, ob die Datei einen Herkunftsnachweis trägt (nächster Abschnitt).
  4. Achte auf die Merkmale in Bild und Ton. Sie stützen einen Verdacht, ersetzen aber keine Bestätigung.
  5. Bestätige über einen zweiten Kanal: Ruf die Person unter ihrer gespeicherten Nummer zurück oder frag bei der Organisation nach, die angeblich spricht⁠2.

Bei Fotos und Grafiken ohne Ton helfen zusätzlich die umgekehrte Bildsuche und ein Blick in die Metadaten, mit denen du auch KI-Bilder erkennen kannst.

Herkunftsnachweise für Videos und Bilder

Die Herkunft eines Inhalts lässt sich schon bei der Aufnahme festhalten. Der offene Standard C2PA heißt in der Anwendung Content Credentials. Er schreibt die Herkunftsgeschichte einer Datei in ein kryptografisch signiertes Manifest: mit welchem Werkzeug sie entstanden ist, wann, und welche Änderungen danach folgten⁠4. Wird die Datei oder das Manifest verändert, bricht die Signatur, und die Manipulation wird sichtbar⁠4. Auch das BSI nennt digitale Signaturen bei der Aufnahme als Gegenmaßnahme⁠1.

Zwei Grenzen musst du kennen. Ein Manifest belegt Herkunft und Unversehrtheit, nicht die Wahrheit dessen, was zu sehen ist⁠4. Und ein fehlendes Manifest beweist gar nichts, denn Metadaten gehen beim Hochladen, Weiterleiten oder durch ein Bildschirmfoto leicht verloren, versehentlich oder absichtlich⁠4. Unsichtbare Wasserzeichen können helfen, die zugehörigen Angaben nach dem Entfernen der Metadaten wiederzufinden⁠4. Dass Anbieter generativer Systeme ihre Ausgaben maschinenlesbar markieren, schreibt inzwischen die Kennzeichnungspflicht der KI-Verordnung vor, für Systeme, die vor dem 02.08.2026 in Verkehr gebracht wurden, mit einer Frist bis zum 02.12.2026⁠11.

Erkennungswerkzeuge und ihre Grenzen

Das BSI nennt die mangelhafte Generalisierbarkeit automatischer Detektoren ein zentrales Problem: Auf neue Fälschungsverfahren lassen sie sich oft schlecht übertragen⁠1. Beim Wettbewerb Deepfake Detection Challenge im Jahr 2020 erreichte das beste Modell eine Genauigkeit von 65,18 Prozent⁠1. Der International AI Safety Report 2026 berichtet von einer Untersuchung, nach der gängige Testsammlungen veraltet sind: Detektoren schneiden bei echten Deepfakes aus dem Netz um etwa 50 Prozent schlechter ab als in diesen Tests⁠6. Auch Warnhinweise helfen nur begrenzt. In einer Studie stieg der Anteil richtig erkannter KI-Videos durch Hinweise von 10,7 auf 21,6 Prozent, die meisten Teilnehmenden lagen weiter falsch⁠6.

Für Tonaufnahmen gibt es ein frei zugängliches Angebot aus der Forschung. Die Plattform Deepfake Total des Fraunhofer AISEC prüft hochgeladene Audiodateien und YouTube-Videos mit KI auf Stimmfälschungen⁠5. Nach einem Beitrag im Fraunhofer-Magazin ist die Nutzung kostenlos⁠9. Die Plattform analysiert höchstens 90 Sekunden einer Aufnahme; vor dem Start stimmst du einer biometrischen Analyse der Datei ausdrücklich zu, und die Daten werden nach Angabe der Plattform direkt nach der Anzeige des Ergebnisses gelöscht⁠10. Lies das Ergebnis als Wahrscheinlichkeit und vergleiche es mit dem, was du über die Quelle weißt. Ein Wert, der "echt" nahelegt, entlastet einen Clip ohne Herkunft nicht.

Mit einem Quiz das Hören üben

Das BSI nennt Schulung eine zentrale Maßnahme gegen Deepfake-Angriffe und verweist dafür auf ein Übungswerkzeug des Fraunhofer AISEC⁠1. Im Spiel "Spot the Deepfake" hörst du Aufnahmen und entscheidest, ob sie echt oder gefälscht sind; eine zweite Fassung lässt dich gegen ein Erkennungsmodell antreten⁠5. Selbst einschätzen sollte man sich vorsichtig: Im Cybersicherheitsmonitor 2026 von BSI und Polizeilicher Kriminalprävention glauben 47 Prozent der Befragten, KI-generierte Bilder und Videos erkennen zu können, aber nur 19 Prozent haben je die Quelle eines Bildes oder Videos überprüft⁠7.

Wo du einen Deepfake meldest

Melde rechtswidrige Inhalte zuerst bei der Plattform, auf der du sie gefunden hast. Der Koordinator für digitale Dienste bei der Bundesnetzagentur verlangt diesen ersten Schritt und will wissen, wie der Dienst reagiert hat⁠8. Gibt es keinen Meldeweg oder bleibt die Plattform untätig, kannst du dich über ein Online-Formular bei der Bundesnetzagentur beschweren. Löschen kann die Behörde selbst nichts⁠8.

  • Strafbare Inhalte zeigst du bei der Polizei an, etwa über die Onlinewache⁠8.
  • Zertifizierte Hinweisgeber wie HateAid, REspect! oder der Verbraucherzentrale Bundesverband melden Inhalte mit Vorrang; Plattformen müssen ihre Meldungen bevorzugt bearbeiten⁠8.
  • Bei Fake-Werbung mit Prominenten rät die Verbraucherzentrale zu einem Bildschirmfoto, zur Meldung auf der Plattform und dazu, andere zu warnen⁠3.

Bevor du meldest, sichere den Link, ein Bildschirmfoto mit Datum und den Namen des Profils. Ist der Beitrag erst gelöscht, fehlt er später als Beleg. Für Fälschungen aus politischen Kampagnen, also Desinformation mit KI, gelten dieselben Meldewege.

Was du brauchst und wo die Methode endet

Für den Prüfweg genügen ein Browser, eine Suchmaschine und die Telefonnummern der Menschen, die dir wichtig sind. Ein Detektor kann ergänzen, nötig ist er nicht. Die Grenze liegt dort, wo keine zweite Quelle existiert: Ein einzelner Clip ohne Herkunft, den niemand bestätigt, lässt sich mit Hausmitteln oft weder als echt noch als falsch belegen. Dann ist Nichtweiterleiten die richtige Wahl. Das BSI weist darauf hin, dass einzelne Gegenmaßnahmen in der Regel keinen vollständigen Schutz bieten⁠1.

Was das für dich heißt

Du musst keine Fälschung selbst entlarven können, solange du nichts ungeprüft teilst und im Zweifel zurückrufst.

  1. Leite Videos mit starken Behauptungen erst weiter, wenn eine zweite seriöse Quelle sie bestätigt.
  2. Ruf bei Geldbitten per Video oder Sprachnachricht immer unter der gespeicherten Nummer zurück.
  3. Sichere Link, Datum und Profilnamen, bevor du einen Deepfake meldest.
  4. Übe mit dem Hörquiz des Fraunhofer AISEC, um ein Gefühl für Stimmfälschungen zu bekommen.

Häufige Fragen

Gibt es ein kostenloses Tool, das Deepfakes zuverlässig erkennt?

Ein zuverlässiges Werkzeug gibt es nicht. Deepfake Total vom Fraunhofer AISEC ist nach Angaben des Fraunhofer-Magazins kostenlos und prüft Tonaufnahmen und YouTube-Videos auf Stimmfälschungen, liefert aber nur eine Einschätzung. Die Herkunft des Materials zu klären, bleibt der wichtigere Schritt.

Wie erkenne ich eine gefälschte Stimme am Telefon?

Achte auf metallischen Klang, monotone Betonung und Verzögerungen. Sicherer ist eine Frage, die nur die echte Person beantworten kann, und danach ein Rückruf unter der gespeicherten Nummer.

Gibt es ein Deepfake-Quiz zum Üben?

Ja. Beim Spiel "Spot the Deepfake" des Fraunhofer AISEC entscheidest du bei Hörproben, ob sie echt oder gefälscht sind.

Ist ein Video echt, wenn es keinen Herkunftsnachweis hat?

Darüber sagt das Fehlen nichts. Viele Plattformen entfernen Metadaten beim Hochladen, und ein Bildschirmfoto trägt sie ohnehin nicht weiter.

Quellen

Stand:

  1. Bundesamt für Sicherheit in der Informationstechnik: Deepfakes: Gefahren und Gegenmaßnahmen, abgerufen am 22.11.2026. zurück
  2. Polizeiliche Kriminalprävention der Länder und des Bundes: Deepfake-Betrug, abgerufen am 22.11.2026. zurück
  3. Verbraucherzentrale: Täuschend echt: Wie Kriminelle Deepfakes mit Promis für Fake-Werbung nutzen, Stand 23.03.2026, abgerufen am 22.11.2026. zurück
  4. Coalition for Content Provenance and Authenticity (C2PA): FAQ, Stand 02.09.2025, abgerufen am 22.11.2026. zurück
  5. Fraunhofer AISEC: Deepfakes: AI systems reliably expose manipulated audio and video, Stand 2026, abgerufen am 22.11.2026. zurück
  6. International AI Safety Report (arXiv): International AI Safety Report 2026, Abschnitt 2.1.1, Stand 24.02.2026, abgerufen am 22.11.2026. zurück
  7. Bundesamt für Sicherheit in der Informationstechnik: Cybersicherheitsmonitor 2026: Online-Betrug und Künstliche Intelligenz, Stand 2026, abgerufen am 22.11.2026. zurück
  8. Bundesnetzagentur: Digital Services Coordinator: Informationen für Nutzerinnen und Nutzer, Stand 2026, abgerufen am 22.11.2026. zurück
  9. Fraunhofer-Gesellschaft (Fraunhofer Magazin 2/25, Wiedergabe bei Save): When you call: fake!, Stand 12.11.2025, abgerufen am 22.11.2026. zurück
  10. Fraunhofer AISEC: Deepfake Total, abgerufen am 22.11.2026. zurück
  11. EUR-Lex: Verordnung (EU) 2026/1744 zur Änderung der Verordnung (EU) 2024/1689, Artikel 111 Absatz 4, Stand 08.07.2026, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert

Aus dem Lexikon

Bilder: KI-generiert