Gesellschaft
Deepfakes erkennen
Kurzantwort
Am sichersten prüfst du die Herkunft: Wer hat das Video oder die Sprachnachricht zuerst veröffentlicht, und bestätigt eine unabhängige Stelle den Inhalt? Bildfehler und ein metallischer Klang sind Hinweise, gute Fälschungen zeigen sie aber kaum noch13. Bei Anrufen hilft der Rückruf unter der gespeicherten Nummer2.

Ob ein Video echt ist, entscheidet sich selten am Bild allein. Die Verbraucherzentrale hält bei gefälschten Werbevideos die Begleitumstände für aussagekräftiger als technische Makel3, und die Polizei empfiehlt die Bestätigung auf einem zweiten Weg2. Die sichtbaren Merkmale lohnen sich trotzdem: Sie sind der Anlass, überhaupt misstrauisch zu werden1. Gemeint sind mit KI gefälschte oder veränderte Videos und Tonaufnahmen, im Fachjargon Deepfake genannt1. Ob das Herstellen oder Teilen strafbar ist, hängt vom Inhalt ab.
Wo dir Deepfakes begegnen
Wie gründlich du prüfen musst, hängt vom Zusammenhang ab. Das BSI beschreibt mehrere Angriffswege1. Bei der Fernidentifikation, etwa einer Videoidentifizierung oder einer Sprechererkennung am Telefon, sollen gefälschte Gesichter und Stimmen eine Prüfung überlisten. Beim Social Engineering geben sich Täter als vertraute Person aus, um an Geld oder Daten zu kommen. Eine Sonderform ist der sogenannte CEO-Fraud: Ein Anruf mit der Stimme einer Führungskraft soll eine Überweisung auslösen. Dazu kommen Desinformation und Verleumdung, bei denen eine echte Person etwas sagt, was sie nie gesagt hat1.
Die Verbraucherzentrale beschreibt gefälschte Werbevideos: Kriminelle lassen bekannte Gesichter für angebliche Finanzangebote und Gesundheitsprodukte werben, und die Prominenten wissen davon meist nichts3. Dabei geht es um Geld, um eine Anmeldung oder eine Bestellung. Sobald ein Video dich zu einer Zahlung, einer Registrierung oder einer Datenangabe bewegen will, lohnt sich der ganze Prüfweg weiter unten.
Woran du gefälschte Videos erkennst
Viele Fälschungen tauschen ein Gesicht gegen ein anderes. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt dafür typische Spuren1:
- Am Rand des Gesichts entsteht eine Naht. Hautfarbe oder Hautstruktur wechseln, manchmal schimmert das ursprüngliche Gesicht durch, etwa als doppelte Augenbraue.
- Feine Details wie Zähne und Augen wirken verwaschen.
- Bei seltener Mimik, bei wechselndem Licht und bei starken Kopfdrehungen verschwimmt das Gesicht. Die Seitenansicht hat das Modell oft schlecht gelernt.
Die Polizeiliche Kriminalprävention nennt zwei weitere Warnzeichen: Die Person bewegt sich seltsam, oder die Lippen passen nicht zum Ton2. Bitte jemanden im Videoanruf deshalb, den Kopf weit zur Seite zu drehen. Starke Drehungen und die Ansicht im Profil sind genau die Lagen, die viele Verfahren schlecht beherrschen1.
Auf diese Fehler solltest du dich aber nicht verlassen. Die Verbraucherzentrale weist ausdrücklich darauf hin, dass gute Deepfakes kaum noch technische Makel zeigen3. Bei Werbevideos, in denen Prominente plötzlich Geldanlagen oder Diätmittel empfehlen, sind die Begleitumstände aussagekräftiger: unrealistische Gewinnversprechen, eine Seite ohne Impressum, eine ausländische Domain3.

Woran du eine geklonte Stimme erkennst
Stimmfälschungen haben eigene Schwächen. Das BSI zählt auf, worauf du hören kannst1:
- Die Stimme klingt metallisch.
- Einzelne Wörter werden falsch ausgesprochen, etwa englische Begriffe in einem deutschen Satz.
- Die Betonung ist monoton, Akzent und Sprechweise passen nicht zur echten Person.
- Es gibt Störgeräusche, besonders bei langen Texten.
- Zwischen deiner Frage und der Antwort entsteht eine merkliche Verzögerung.
Bei einem guten Stimmenklon hilft das Hören allein kaum: In einer vom International AI Safety Report genannten Studie hielten Zuhörende KI-Stimmen in 80 Prozent der Fälle für echte Sprecher6. Eine Rückfrage, die nur die echte Person beantworten kann, bringt mehr2. Ruft ein angeblicher Angehöriger in Not an, hilft der Ablauf aus der Anleitung zum Enkeltrick mit KI-Stimme.
Im Beruf zielt der CEO-Fraud auf Beschäftigte, die Zahlungen auslösen dürfen1. Die Polizei rät Unternehmen, interne Sicherheitscodes oder feste Rückrufregeln einzuführen und Beschäftigte darauf vorzubereiten2. Eine solche Regel könnte lauten: Zahlungsanweisungen per Telefon oder Videoanruf gelten erst, wenn sie über einen zweiten, vorher vereinbarten Weg bestätigt sind. Das schützt auch dann, wenn die Fälschung technisch perfekt ist.

Der Prüfweg in fünf Schritten
Ob Video, Sprachnachricht oder Anruf: Die Reihenfolge bleibt gleich. Sie beginnt mit Abstand und endet mit einer Bestätigung von außen.
- Rot der Schritt, der am meisten Sicherheit gibt
- Halte inne, wenn ein Inhalt starke Gefühle weckt oder zu schnellem Handeln drängt. Die Polizei rät, gerade bei plötzlichen und dringenden Geldforderungen zu stoppen, auch wenn die Stimme vertraut klingt2.
- Such die Quelle. Wer hat das Video zuerst veröffentlicht? Gibt es Berichte seriöser Medien oder einen Faktencheck dazu? Fehlen Links auf offizielle Kanäle, ist das ein Warnsignal3.
- Prüf, ob die Datei einen Herkunftsnachweis trägt (nächster Abschnitt).
- Achte auf die Merkmale in Bild und Ton. Sie stützen einen Verdacht, ersetzen aber keine Bestätigung.
- Bestätige über einen zweiten Kanal: Ruf die Person unter ihrer gespeicherten Nummer zurück oder frag bei der Organisation nach, die angeblich spricht2.
Bei Fotos und Grafiken ohne Ton helfen zusätzlich die umgekehrte Bildsuche und ein Blick in die Metadaten, mit denen du auch KI-Bilder erkennen kannst.
Herkunftsnachweise für Videos und Bilder
Die Herkunft eines Inhalts lässt sich schon bei der Aufnahme festhalten. Der offene Standard C2PA heißt in der Anwendung Content Credentials. Er schreibt die Herkunftsgeschichte einer Datei in ein kryptografisch signiertes Manifest: mit welchem Werkzeug sie entstanden ist, wann, und welche Änderungen danach folgten4. Wird die Datei oder das Manifest verändert, bricht die Signatur, und die Manipulation wird sichtbar4. Auch das BSI nennt digitale Signaturen bei der Aufnahme als Gegenmaßnahme1.
Zwei Grenzen musst du kennen. Ein Manifest belegt Herkunft und Unversehrtheit, nicht die Wahrheit dessen, was zu sehen ist4. Und ein fehlendes Manifest beweist gar nichts, denn Metadaten gehen beim Hochladen, Weiterleiten oder durch ein Bildschirmfoto leicht verloren, versehentlich oder absichtlich4. Unsichtbare Wasserzeichen können helfen, die zugehörigen Angaben nach dem Entfernen der Metadaten wiederzufinden4. Dass Anbieter generativer Systeme ihre Ausgaben maschinenlesbar markieren, schreibt inzwischen die Kennzeichnungspflicht der KI-Verordnung vor, für Systeme, die vor dem 02.08.2026 in Verkehr gebracht wurden, mit einer Frist bis zum 02.12.202611.
Erkennungswerkzeuge und ihre Grenzen
Das BSI nennt die mangelhafte Generalisierbarkeit automatischer Detektoren ein zentrales Problem: Auf neue Fälschungsverfahren lassen sie sich oft schlecht übertragen1. Beim Wettbewerb Deepfake Detection Challenge im Jahr 2020 erreichte das beste Modell eine Genauigkeit von 65,18 Prozent1. Der International AI Safety Report 2026 berichtet von einer Untersuchung, nach der gängige Testsammlungen veraltet sind: Detektoren schneiden bei echten Deepfakes aus dem Netz um etwa 50 Prozent schlechter ab als in diesen Tests6. Auch Warnhinweise helfen nur begrenzt. In einer Studie stieg der Anteil richtig erkannter KI-Videos durch Hinweise von 10,7 auf 21,6 Prozent, die meisten Teilnehmenden lagen weiter falsch6.
Für Tonaufnahmen gibt es ein frei zugängliches Angebot aus der Forschung. Die Plattform Deepfake Total des Fraunhofer AISEC prüft hochgeladene Audiodateien und YouTube-Videos mit KI auf Stimmfälschungen5. Nach einem Beitrag im Fraunhofer-Magazin ist die Nutzung kostenlos9. Die Plattform analysiert höchstens 90 Sekunden einer Aufnahme; vor dem Start stimmst du einer biometrischen Analyse der Datei ausdrücklich zu, und die Daten werden nach Angabe der Plattform direkt nach der Anzeige des Ergebnisses gelöscht10. Lies das Ergebnis als Wahrscheinlichkeit und vergleiche es mit dem, was du über die Quelle weißt. Ein Wert, der "echt" nahelegt, entlastet einen Clip ohne Herkunft nicht.
Mit einem Quiz das Hören üben
Das BSI nennt Schulung eine zentrale Maßnahme gegen Deepfake-Angriffe und verweist dafür auf ein Übungswerkzeug des Fraunhofer AISEC1. Im Spiel "Spot the Deepfake" hörst du Aufnahmen und entscheidest, ob sie echt oder gefälscht sind; eine zweite Fassung lässt dich gegen ein Erkennungsmodell antreten5. Selbst einschätzen sollte man sich vorsichtig: Im Cybersicherheitsmonitor 2026 von BSI und Polizeilicher Kriminalprävention glauben 47 Prozent der Befragten, KI-generierte Bilder und Videos erkennen zu können, aber nur 19 Prozent haben je die Quelle eines Bildes oder Videos überprüft7.
Wo du einen Deepfake meldest
Melde rechtswidrige Inhalte zuerst bei der Plattform, auf der du sie gefunden hast. Der Koordinator für digitale Dienste bei der Bundesnetzagentur verlangt diesen ersten Schritt und will wissen, wie der Dienst reagiert hat8. Gibt es keinen Meldeweg oder bleibt die Plattform untätig, kannst du dich über ein Online-Formular bei der Bundesnetzagentur beschweren. Löschen kann die Behörde selbst nichts8.
- Strafbare Inhalte zeigst du bei der Polizei an, etwa über die Onlinewache8.
- Zertifizierte Hinweisgeber wie HateAid, REspect! oder der Verbraucherzentrale Bundesverband melden Inhalte mit Vorrang; Plattformen müssen ihre Meldungen bevorzugt bearbeiten8.
- Bei Fake-Werbung mit Prominenten rät die Verbraucherzentrale zu einem Bildschirmfoto, zur Meldung auf der Plattform und dazu, andere zu warnen3.
Bevor du meldest, sichere den Link, ein Bildschirmfoto mit Datum und den Namen des Profils. Ist der Beitrag erst gelöscht, fehlt er später als Beleg. Für Fälschungen aus politischen Kampagnen, also Desinformation mit KI, gelten dieselben Meldewege.
Was du brauchst und wo die Methode endet
Für den Prüfweg genügen ein Browser, eine Suchmaschine und die Telefonnummern der Menschen, die dir wichtig sind. Ein Detektor kann ergänzen, nötig ist er nicht. Die Grenze liegt dort, wo keine zweite Quelle existiert: Ein einzelner Clip ohne Herkunft, den niemand bestätigt, lässt sich mit Hausmitteln oft weder als echt noch als falsch belegen. Dann ist Nichtweiterleiten die richtige Wahl. Das BSI weist darauf hin, dass einzelne Gegenmaßnahmen in der Regel keinen vollständigen Schutz bieten1.
Was das für dich heißt
Du musst keine Fälschung selbst entlarven können, solange du nichts ungeprüft teilst und im Zweifel zurückrufst.
- Leite Videos mit starken Behauptungen erst weiter, wenn eine zweite seriöse Quelle sie bestätigt.
- Ruf bei Geldbitten per Video oder Sprachnachricht immer unter der gespeicherten Nummer zurück.
- Sichere Link, Datum und Profilnamen, bevor du einen Deepfake meldest.
- Übe mit dem Hörquiz des Fraunhofer AISEC, um ein Gefühl für Stimmfälschungen zu bekommen.
Häufige Fragen
Gibt es ein kostenloses Tool, das Deepfakes zuverlässig erkennt?
Ein zuverlässiges Werkzeug gibt es nicht. Deepfake Total vom Fraunhofer AISEC ist nach Angaben des Fraunhofer-Magazins kostenlos und prüft Tonaufnahmen und YouTube-Videos auf Stimmfälschungen, liefert aber nur eine Einschätzung. Die Herkunft des Materials zu klären, bleibt der wichtigere Schritt.
Wie erkenne ich eine gefälschte Stimme am Telefon?
Achte auf metallischen Klang, monotone Betonung und Verzögerungen. Sicherer ist eine Frage, die nur die echte Person beantworten kann, und danach ein Rückruf unter der gespeicherten Nummer.
Gibt es ein Deepfake-Quiz zum Üben?
Ja. Beim Spiel "Spot the Deepfake" des Fraunhofer AISEC entscheidest du bei Hörproben, ob sie echt oder gefälscht sind.
Ist ein Video echt, wenn es keinen Herkunftsnachweis hat?
Darüber sagt das Fehlen nichts. Viele Plattformen entfernen Metadaten beim Hochladen, und ein Bildschirmfoto trägt sie ohnehin nicht weiter.
Quellen
Stand:
- Bundesamt für Sicherheit in der Informationstechnik: Deepfakes: Gefahren und Gegenmaßnahmen, abgerufen am 22.11.2026. zurück
- Polizeiliche Kriminalprävention der Länder und des Bundes: Deepfake-Betrug, abgerufen am 22.11.2026. zurück
- Verbraucherzentrale: Täuschend echt: Wie Kriminelle Deepfakes mit Promis für Fake-Werbung nutzen, Stand 23.03.2026, abgerufen am 22.11.2026. zurück
- Coalition for Content Provenance and Authenticity (C2PA): FAQ, Stand 02.09.2025, abgerufen am 22.11.2026. zurück
- Fraunhofer AISEC: Deepfakes: AI systems reliably expose manipulated audio and video, Stand 2026, abgerufen am 22.11.2026. zurück
- International AI Safety Report (arXiv): International AI Safety Report 2026, Abschnitt 2.1.1, Stand 24.02.2026, abgerufen am 22.11.2026. zurück
- Bundesamt für Sicherheit in der Informationstechnik: Cybersicherheitsmonitor 2026: Online-Betrug und Künstliche Intelligenz, Stand 2026, abgerufen am 22.11.2026. zurück
- Bundesnetzagentur: Digital Services Coordinator: Informationen für Nutzerinnen und Nutzer, Stand 2026, abgerufen am 22.11.2026. zurück
- Fraunhofer-Gesellschaft (Fraunhofer Magazin 2/25, Wiedergabe bei Save): When you call: fake!, Stand 12.11.2025, abgerufen am 22.11.2026. zurück
- Fraunhofer AISEC: Deepfake Total, abgerufen am 22.11.2026. zurück
- EUR-Lex: Verordnung (EU) 2026/1744 zur Änderung der Verordnung (EU) 2024/1689, Artikel 111 Absatz 4, Stand 08.07.2026, abgerufen am 22.11.2026. zurück





