Gesellschaft
Desinformation mit KI

Fake News gab es lange vor ChatGPT. Neu ist, wie wenig Arbeit sie heute machen: Ein Sprachmodell schreibt in Sekunden Beiträge in fremden Sprachen, ein Bildgenerator liefert das passende Foto, und für eine gefälschte Rede reichen ein paar Aufnahmen der echten Stimme. Die Bundesregierung stellt fest, dass sich mit künstlicher Intelligenz ohne große Hürden Ton-, Bild- und Videofälschungen herstellen lassen, die Politikerinnen und Politikern Sätze in den Mund legen1. Ob das Wahlen kippt, beantworten die vorliegenden Studien vorsichtig.
Was Desinformation von einem Irrtum unterscheidet
Die Bundesregierung definiert Desinformation als falsche oder irreführende Information, die gezielt verbreitet wird1. Wer dagegen aus Versehen eine Falschmeldung teilt, verbreitet eine Fehlinformation. Der Unterschied liegt in der Absicht zu täuschen.
Hinter Desinformation stehen nichtstaatliche Gruppen aus dem In- und Ausland, aber auch fremde Staaten1. Verbreitet ein Staat sie, um einen anderen zu beeinflussen, spricht die Bundesregierung von einer hybriden Bedrohung. Ziele sind demnach etwa, Debatten zu emotionalisieren, gesellschaftliche Spannungen zu verstärken und Misstrauen gegenüber Institutionen zu schüren1. Typische Werkzeuge solcher Kampagnen sind kopierte Webseiten von Zeitungen, gefälschte Konten in sozialen Medien und Bots, die Inhalte automatisch verbreiten und Empfehlungssysteme manipulieren1.
Vor der Europawahl 2024 rechnete die Bundesregierung mit mehreren Spielarten zugleich: mit Falschmeldungen, mit Deepfakes, mit Hack-and-Leak-Aktionen, bei denen gestohlene und teils manipulierte Daten aus der Politik veröffentlicht werden, und mit gekaperten Konten von Parteien, Medien oder Behörden, über die Desinformation verbreitet wird1. KI ist in dieser Aufzählung ein Werkzeug unter mehreren.
Wie KI das Fälschen verbilligt
Generative KI nimmt den Kampagnen vor allem Handarbeit ab. Wer früher Muttersprachler brauchte, um glaubwürdige Beiträge in einer fremden Sprache zu verfassen, lässt heute ein Modell schreiben. Für jedes Thema und jede Zielgruppe entstehen Varianten, die nicht wie Kopien aussehen.
Wie das praktisch aussieht, beschreibt OpenAI in seinen Berichten über missbräuchliche Nutzung. Ein Fall vom 25.08.2026: Konten, die sehr wahrscheinlich aus Russland stammten, nutzten ChatGPT, um Beiträge für eine angebliche Expertenplattform namens International Burke Institute zu schreiben, verteilt auf X, LinkedIn, Facebook, Substack und Telegram, darunter deutschsprachige Telegram-Beiträge2. Die Betreiber wiesen das Modell an, alle sprachlichen Hinweise auf ihre russische Herkunft zu tilgen2. Von 36 untersuchten Artikeln der Seite waren 34 anderswo im Netz abgeschrieben, einige wurden echten Fachleuten untergeschoben2.
Die Reichweite blieb gering: Die typischen Beiträge erreichten nur wenige Aufrufe, die offiziellen Konten hatten wenige Abonnenten2. OpenAI wertet die eigentliche Bedeutung der Kampagne in der aufgebauten Infrastruktur, weniger in der Reichweite2. Der Einsatz von ChatGPT hat nach Darstellung des Unternehmens sogar dazu beigetragen, die Operation aufzudecken2. Wer fremde KI-Dienste nutzt, hinterlässt dort Spuren, die der Anbieter auswerten kann. In einem Überblick vom 25.02.2026 hält das Unternehmen außerdem fest, dass Angreifer KI meist zusammen mit herkömmlichen Mitteln wie Webseiten und Konten in sozialen Medien einsetzen und selten nur eine Plattform oder ein Modell nutzen3. Die KI senkt damit vor allem die Kosten für den laufenden Betrieb eines solchen Netzwerks.
Gefälschte Videos sind die auffälligste Form. Wer einen Deepfake vor sich zu haben glaubt, kann ihn mit dem Prüfweg aus der Anleitung Deepfakes erkennen untersuchen.

Kann KI Wahlen beeinflussen?
Zwei große Studien, die am 04.12.2025 in Nature und Science erschienen, haben untersucht, wie stark Gespräche mit Chatbots politische Haltungen verschieben5. Vor der US-Präsidentschaftswahl 2024 sprachen rund 2.300 Amerikanerinnen und Amerikaner mit einem Chatbot, der für eine Kandidatin oder einen Kandidaten warb. Ein Modell, das für Harris argumentierte, rückte wahrscheinliche Trump-Wähler auf einer Skala von 100 Punkten um 3,9 Punkte in Richtung Harris, das Gegenstück bewegte Harris-Anhänger um 1,51 Punkte5. Bei den Wahlen in Kanada und Polen 2025 verschoben sich Haltungen und Wahlabsichten von Anhängern der Gegenseite um etwa 10 Prozentpunkte5.
Die Science-Studie mit rund 77.000 Teilnehmenden aus Großbritannien fand den stärksten Effekt bei einem Modell, das auf Überzeugungskraft optimiert war: 25 Prozentpunkte bei Anhängern der Gegenseite5. Am wirksamsten war es, Argumente mit möglichst vielen Fakten zu füllen. Dabei zeigte sich ein Haken: Je überzeugender ein Modell, desto ungenauer seine Angaben5.
Die Studien haben Grenzen. Die Teilnehmenden wussten, dass sie mit einer KI sprachen, und die Richtung der Überzeugung war zufällig verteilt5. Ob Menschen außerhalb eines Experiments überhaupt so lange mit politischen Chatbots reden, ist eine hohe Hürde, wie die Forschenden selbst schreiben5. Der International AI Safety Report 2026 fasst die Lage so zusammen: Im Experiment kann KI-Text Meinungen ebenso wirksam ändern wie von Menschen geschriebener; der Einsatz zur Manipulation in der Praxis ist dokumentiert, aber noch nicht weit verbreitet4. Belege für die Wirkung außerhalb des Labors bleiben nach dem Bericht begrenzt4.
Für die Frage, ob KI Wahlen beeinflussen kann, heißt das: Sie kann einzelne Menschen messbar überzeugen und Kampagnen billiger machen. Dass eine Wahl wegen KI-Inhalten anders ausgegangen wäre, belegen die hier ausgewerteten Quellen nicht.
Was Plattformen und KI-Anbieter leisten müssen
Für sehr große Online-Plattformen und Suchmaschinen gelten in der EU seit dem 25.08.2023 die Pflichten aus dem Gesetz über digitale Dienste. Es verpflichtet sie, systemische Risiken ihrer Dienste zu ermitteln und zu bewerten, ausdrücklich auch nachteilige Folgen für die gesellschaftliche Debatte und für Wahlen1. Die EU-Kommission hat dazu Leitlinien veröffentlicht, wie diese Anbieter Risiken bei Wahlen nach Artikel 35 des Gesetzes mindern sollen; sie stammen vom 26.04.2024 und waren auf die Europawahl im Juni 2024 zugeschnitten6.
Die KI-Verordnung (Verordnung (EU) 2024/1689) setzt bei den Inhalten selbst an. Wer als Betreiber mit einem KI-System einen Deepfake erzeugt, muss offenlegen, dass der Inhalt künstlich erzeugt oder verändert ist7. Gleiches gilt für veröffentlichte KI-Texte, die über Fragen von öffentlichem Interesse informieren sollen7. Die Pflicht entfällt, wenn ein Mensch den Text inhaltlich geprüft hat und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt7. Diese Pflichten aus Artikel 50 gelten seit dem 02.08.20267. Bei erkennbar künstlerischen, satirischen oder fiktionalen Werken genügt ein Hinweis, der die Darstellung nicht stört7. Anbieter generativer Systeme müssen ihre Ausgaben außerdem maschinenlesbar als künstlich erzeugt kennzeichnen7; für Systeme, die vor dem 02.08.2026 in Verkehr gebracht wurden, gilt dafür eine Frist bis zum 02.12.20269.
Meldungen prüfen, bevor du sie teilst
Falsche oder irreführende Nachrichten teilen nach Einschätzung der Bundesregierung oft Privatpersonen, ohne böse Absicht1. Sie nennt drei Gewohnheiten, die dagegen helfen1:
- Hinterfrag kritisch, bevor du weiterleitest. Je emotionaler oder dramatischer eine Meldung, desto häufiger wird sie geteilt. Was dir zweifelhaft vorkommt, teilst du nicht1.
- Prüf Quelle und Absender. Vergleiche eine fragliche Nachricht mit mindestens zwei weiteren Quellen, schau nach, wer das Bild oder Video zuerst veröffentlicht hat, und sieh bei Webseiten ins Impressum. Es sollte eine verantwortliche Person mit vollständiger Anschrift nennen1. In sozialen Netzwerken kann ein Klarname ein Indiz für ein echtes Konto sein, ebenso Angaben der Plattform zur Regierungsnähe eines Kontos; Behörden und Institutionen folgst du am besten über ihre verifizierten Konten1.
- Nutze Faktenchecks. Forschungseinrichtungen, Organisationen und unabhängige Medien prüfen kursierende Behauptungen und stellen sie richtig1.
Bei Fragen zum Ablauf einer Wahl ist die Bundeswahlleiterin die offizielle Quelle; sie ist dafür zuständig, Desinformation zum Wahlverfahren zu erkennen und zu bekämpfen1.
Chatbots eignen sich nur eingeschränkt als Faktenprüfer. Sie können selbst falsche Angaben erfinden, die überzeugend klingen, sogenannte Halluzinationen. Wer mit KI recherchiert, sollte die genannten Quellen öffnen und selbst lesen.

Warum auch echte Inhalte leiden
Je mehr Fälschungen kursieren, desto leichter lassen sich echte Aufnahmen als Fälschung abtun. Wer bei jedem unbequemen Video "KI" ruft, beschädigt am Ende das Vertrauen in Bilder überhaupt. Der International AI Safety Report, der auch andere Gefahren der KI bewertet, nennt als Problem für die Politik, dass unzuverlässige Statistiken und schwer nachverfolgbare Urheber die Lage schwer einschätzbar machen4. Ein Teil der Antwort sind Herkunftsnachweise für echte Aufnahmen. Nach dem Standard C2PA können Kameras und Programme beim Erstellen festhalten, woher eine Datei stammt und wie sie bearbeitet wurde8; Redaktionen und Behörden könnten so belegen, dass ein Video von ihnen kommt.
Was das für dich heißt
Du schützt dich und andere am besten, indem du nur teilst, was du an mindestens zwei unabhängigen Stellen bestätigt gefunden hast.
- Warte bei einer empörenden Meldung, bevor du sie teilst, und such zwei weitere Quellen.
- Schau bei unbekannten Seiten ins Impressum und prüf, wer den Inhalt zuerst veröffentlicht hat.
- Informier dich zu Wahlterminen und Abläufen direkt bei der Bundeswahlleiterin.
- Öffne die Quellen, die dir ein Chatbot nennt, statt seiner Zusammenfassung zu vertrauen.
Häufige Fragen
Wie erkenne ich KI-Fake-News?
Am Text allein selten. Hilfreicher sind die Fragen nach dem Absender, nach zwei unabhängigen Bestätigungen und nach einem Faktencheck.
Ist KI-Desinformation strafbar?
Das hängt vom Inhalt ab, etwa bei Verleumdung oder Volksverhetzung. Eine Falschmeldung als solche ist nicht automatisch strafbar; Einzelheiten zu Deepfakes stehen auf der Seite zum Strafrecht.
Müssen KI-generierte Wahlvideos gekennzeichnet werden?
Wer als Betreiber mit KI einen Deepfake erstellt, muss das seit dem 02.08.2026 offenlegen. Für satirische oder künstlerische Werke genügt ein Hinweis, der das Werk nicht stört.
Wer kontrolliert die großen Plattformen?
Für sehr große Plattformen und Suchmaschinen ist nach dem Gesetz über digitale Dienste vor allem die EU-Kommission zuständig. Sie kann ermitteln und Bußgelder verhängen.
Quellen
Stand:
- Bundesregierung (über die Bundeswahlleiterin): FAQ: Schutz der Europawahl vor hybriden Bedrohungen einschließlich Desinformation, Stand 25.03.2024, abgerufen am 22.11.2026. zurück
- OpenAI: Disrupting malicious uses of AI: influence campaign (Russia), Stand 25.08.2026, abgerufen am 22.11.2026. zurück
- OpenAI: Disrupting malicious uses of AI, Stand 25.02.2026, abgerufen am 22.11.2026. zurück
- International AI Safety Report (arXiv): International AI Safety Report 2026, Zusammenfassung und Abschnitte 2.1.1 und 2.1.2, Stand 24.02.2026, abgerufen am 22.11.2026. zurück
- Cornell University, Cornell Chronicle: AI chatbots can effectively sway voters, in either direction, Stand 04.12.2025, abgerufen am 22.11.2026. zurück
- Europäische Kommission: Leitlinien für Anbieter sehr großer Online-Plattformen und Suchmaschinen zur Minderung systemischer Risiken bei Wahlprozessen, Stand 26.04.2024, abgerufen am 22.11.2026. zurück
- EUR-Lex: Verordnung (EU) 2024/1689 über künstliche Intelligenz, ABl. L vom 12.07.2024, Artikel 50 und 113, Stand 12.07.2024, abgerufen am 22.11.2026. zurück
- Coalition for Content Provenance and Authenticity (C2PA): FAQ, Stand 02.09.2025, abgerufen am 22.11.2026. zurück
- EUR-Lex: Verordnung (EU) 2026/1744 zur Änderung der Verordnung (EU) 2024/1689, Artikel 111 Absatz 4, Stand 08.07.2026, abgerufen am 22.11.2026. zurück





