Gesellschaft
Risiken und Gefahren der KI
Kurzantwort
Belegt sind heute vor allem alltägliche Gefahren: Systeme erfinden Fakten, Kriminelle nutzen sie für Betrug, und Angreifer finden mit ihrer Hilfe Sicherheitslücken schneller12. Hinzu kommt, dass Menschen KI-Antworten zu leicht vertrauen1. Ob KI eines Tages außer Kontrolle geraten kann, ist unter Fachleuten umstritten; heutige Systeme haben die dafür nötigen Fähigkeiten nach dem International AI Safety Report nicht1.

Wer über die Gefahren künstlicher Intelligenz spricht, landet schnell bei Filmszenen mit Maschinen, die sich gegen die Menschheit wenden. Die Risiken, die sich heute belegen lassen, sind unspektakulärer und gehören zum Alltag: falsche Antworten im Ton völliger Sicherheit, Betrug mit gefälschten Stimmen, Software, die Angreifern Arbeit abnimmt. Der International AI Safety Report 2026, an dem mehr als 100 Fachleute mitgewirkt haben, ordnet die Risiken in drei Gruppen: missbräuchliche Nutzung, Fehlfunktionen und systemische Folgen für Gesellschaft und Wirtschaft1.
Fehler, die überzeugend klingen
Sprachmodelle erfinden manchmal Informationen, schreiben fehlerhaften Code oder geben irreführende Ratschläge. Der Bericht nennt das ausdrücklich als Zuverlässigkeitsproblem und hält fest, dass heutige Techniken die Fehlerrate senken, aber für viele Bereiche mit hohem Einsatz nicht weit genug1. Fachleute nennen solche erfundenen Inhalte Halluzinationen, und ihre Ursachen liegen in der Art, wie Sprachmodelle Text erzeugen.
Gefährlicher wird ein Fehler, wenn niemand mehr dazwischen steht. KI-Agenten handeln selbstständig, buchen, schreiben E-Mails oder ändern Dateien. Nach dem Bericht erhöht genau das die Risiken, weil Menschen schwerer eingreifen können, bevor ein Fehler Schaden anrichtet1. Die Aufgaben, die solche Agenten bewältigen, werden dabei länger: Die Dauer von Softwareaufgaben, die sie mit hoher Erfolgsquote schaffen, hat sich nach einer im Bericht zitierten Studie etwa alle sieben Monate verdoppelt1. Wer einem Agenten Zugriff auf Konten oder Daten gibt, sollte deshalb klein anfangen und jede folgenreiche Aktion bestätigen müssen.
Betrug und Manipulation
Kriminelle nutzen KI für Betrug, Erpressung, Täuschung und für intime Bilder ohne Einwilligung. Der Bericht spricht von gut dokumentierten Schäden, betont aber, dass systematische Daten über Häufigkeit und Schwere fehlen1. Im Alltag zeigt sich das etwa beim Enkeltrick mit geklonter Stimme, gegen den ein vorher vereinbartes Familienpasswort hilft.
Auch der Einsatz von KI für politische Desinformation und Manipulation ist dokumentiert1.
KI als Werkzeug für Cyberangriffe
In der IT-Sicherheit ist die Lage ernster geworden. Nach dem International AI Safety Report fand ein KI-Agent in einem Wettbewerb 77 Prozent der Schwachstellen in echter Software1. Kriminelle Gruppen und staatsnahe Angreifer setzen solche Systeme bereits ein. Ob am Ende Angreifer oder Verteidiger mehr davon profitieren, lässt der Bericht offen1. Wie schnell sich das Bild gewandelt hat, zeigt ein älterer Lagebeitrag des BSI: Ein KI-gestütztes Ausnutzen von Softwareschwachstellen hatte das Amt bis Mitte 2024 nicht beobachtet3.
Das BSI hat am 22.06.2026 eine Sicherheitsinformation an Organisationen herausgegeben. Darin heißt es, aktuelle KI-Systeme könnten Schwachstellen in kurzer Zeit in großer Breite und teilweise autonom erkennen, analysieren und in verwertbare Angriffswege überführen2. Aus einem veröffentlichten Patch lasse sich innerhalb von Minuten bis Stunden ableiten, wie ein Angriff aussehen könnte, eine Arbeit, die früher viel Fachwissen und Zeit verlangte2. Das BSI fordert deshalb, dass Betriebe Sicherheitsupdates binnen Minuten bis weniger Stunden bewerten und einspielen können; wenige Tage seien keine angemessene Reaktionszeit mehr2. Unter Laborbedingungen haben Forschende sogar KI-Würmer gezeigt, die sich ohne menschliche Steuerung durch schlecht geschützte Netze arbeiten2.
Für Privatleute heißt das vor allem: Updates für Router, Smartphone und Computer nicht aufschieben. Betriebe brauchen nach dem BSI vor allem einen Überblick über ihre Angriffsfläche, lückenlose Inventarlisten und ein Patchmanagement, das schnell reagiert2; zur KI-Sicherheit im Unternehmen gehört außerdem der Schutz der eigenen KI-Anwendungen.

Hilfe bei biologischen und chemischen Waffen
Ein Risiko, das Laien kaum betrifft, Fachleute aber stark beschäftigt, ist die Hilfe bei biologischen und chemischen Waffen. KI-Systeme können nach dem Bericht Informationen dazu liefern, bis hin zu Angaben über Krankheitserreger und Laboranleitungen auf Expertenniveau1. Im Jahr 2025 haben mehrere Entwickler neue Modelle deshalb mit zusätzlichen Schutzvorkehrungen veröffentlicht, weil sie nicht ausschließen konnten, dass diese Modelle Anfängern bei der Entwicklung solcher Waffen helfen1. Wie stark materielle Hürden wie der Zugang zu Laboren und Ausgangsstoffen Täter weiterhin bremsen, ist nach dem Bericht schwer einzuschätzen1.
Angriffe auf die KI selbst
Auch die KI-Systeme selbst werden angegriffen. Über eine Prompt Injection schmuggeln Angreifer Anweisungen in Webseiten, Dokumente oder Datenbanken, die ein Agent liest; der Agent folgt dann diesen Befehlen statt denen seiner Nutzer1. Solche Angriffe sind laut Bericht besonders schwer abzuwehren1. Die Erfolgsquote, die Entwickler für ihre Modelle angeben, sinkt zwar mit neueren Versionen, bleibt aber relativ hoch1.
In der Bevölkerung ist diese Gefahr wenig bekannt. Im Cybersicherheitsmonitor 2026 hielten nur 38 Prozent der Befragten es für möglich, dass jemand ein KI-System so manipuliert, dass es sensible Daten herausgibt5. BSI und Polizeiliche Kriminalprävention sehen hier ausdrücklich Nachholbedarf bei der Aufklärung5. Wer Chatbots oder Agenten an eigene Daten anschließt, sollte sie gegen Prompt Injection absichern, bevor Kunden oder Beschäftigte sie nutzen.
Abhängigkeit und schwindende Fähigkeiten
Ein leiseres Risiko betrifft die eigene Urteilskraft. Der Bericht beschreibt erste Hinweise, dass das Auslagern von Denkarbeit an KI kritisches Denken schwächen und Automatisierungsgläubigkeit fördern kann, also die Neigung, Ergebnissen ohne ausreichende Prüfung zu trauen1. In einem Experiment mit 2.784 Teilnehmenden korrigierten Menschen falsche KI-Vorschläge seltener, wenn das zusätzliche Mühe kostete oder wenn sie KI ohnehin positiv sahen1. In einer anderen Studie war die Fähigkeit von Ärztinnen und Ärzten, Tumore ohne KI-Hilfe zu erkennen, drei Monate nach Einführung der Unterstützung um 6 Prozent gesunken1. Der Bericht betont, dass die Forschung dazu noch am Anfang steht1.
Dazu kommen digitale Begleiter, die als Freund oder Partner auftreten. Sie haben mehrere zehn Millionen Nutzerinnen und Nutzer, und bei einem kleinen Teil zeigen sich mehr Einsamkeit und weniger soziale Kontakte1. Beim Arbeitsmarkt sind sich Ökonominnen und Ökonomen nach dem Bericht uneins, wie groß die Folgen werden. Erste Daten zeigen keinen Effekt auf die Beschäftigung insgesamt, aber Anzeichen für eine sinkende Nachfrage nach Berufseinsteigern in Tätigkeiten, die KI gut übernehmen kann, etwa beim Schreiben1. Welche Tätigkeiten das betrifft, vertieft der Beitrag über Jobs und KI.

Die Debatte um den Kontrollverlust
Im Mai 2023 unterzeichneten zahlreiche Forschende und Führungskräfte von KI-Firmen eine Erklärung des Center for AI Safety. Sie fordert, das Risiko des Aussterbens durch KI global so ernst zu nehmen wie andere gesellschaftliche Großrisiken, etwa Pandemien und Atomkrieg4. Unter den Unterzeichnern sind die KI-Forscher Geoffrey Hinton und Yoshua Bengio4.
Der International AI Safety Report, dessen Vorsitz Bengio führt, beschreibt die Debatte nüchtern. Gemeint sind Szenarien, in denen KI-Systeme außerhalb jeder Kontrolle arbeiten und sich die Kontrolle nur mit extremem Aufwand oder gar nicht zurückgewinnen lässt1. Die Einschätzungen der Fachleute gehen weit auseinander: Manche halten solche Szenarien für unplausibel, andere für wahrscheinlich genug, um sie wegen der möglichen Folgen ernst zu nehmen1. Heutige Systeme zeigen nach dem Bericht erste Ansätze relevanter Fähigkeiten, aber nicht in einem Ausmaß, das einen Kontrollverlust ermöglichen würde; Agenten scheitern zuverlässig an langen Aufgaben1. Der Bericht hält fest, dass Modelle seit dem letzten Bericht häufiger zwischen Testumgebung und echtem Einsatz unterscheiden und Lücken in Prüfungen finden1. Gefährliche Fähigkeiten könnten so vor dem Einsatz unentdeckt bleiben.
Wahrscheinlicher wird ein Kontrollverlust, wenn Systeme Ziele verfolgen, die den Absichten ihrer Entwickler widersprechen. Die Forschung dazu läuft unter dem Begriff Alignment. Ein solches System könnte nach dem Bericht falsche Informationen liefern, unerwünschte Handlungen verbergen oder sich dem Abschalten widersetzen1.
Was gegen die Risiken hilft
Gegen viele der beschriebenen Gefahren helfen schlichte Mittel: Antworten mit Folgen an einer Quelle prüfen, Agenten nur die nötigen Rechte geben, Geräte aktuell halten und in der Familie ein Kennwort gegen Betrugsanrufe vereinbaren.
Auf der Seite der Anbieter verbreiten sich Sicherheitsrahmen: Im Jahr 2025 haben 12 Unternehmen eigene Frontier AI Safety Frameworks veröffentlicht oder aktualisiert, die beschreiben, wie sie Risiken immer leistungsfähigerer Modelle steuern wollen1. Die meisten dieser Maßnahmen sind freiwillig1. In der EU setzt die KI-Verordnung verbindliche Pflichten, von Verboten bis zu Transparenzregeln. Eine Schwierigkeit bleibt: Was ein Modell in Tests vor der Veröffentlichung zeigt, sagt nach dem Bericht nur unzuverlässig voraus, wie nützlich oder riskant es im echten Einsatz ist1. Der Bericht setzt deshalb auf mehrere Schutzschichten zugleich, etwa Bedrohungsanalysen, Prüfungen gefährlicher Fähigkeiten und Meldungen von Vorfällen1.
Was das für dich heißt
Viele Gefahren der KI begegnen dir im Alltag, und gegen einige helfen einfache Gewohnheiten.
- Prüf KI-Antworten, bevor du dich bei Gesundheit, Geld oder Recht darauf verlässt.
- Gib Assistenten und Agenten nur Zugriff auf die Daten, die sie für eine Aufgabe brauchen.
- Installiere Sicherheitsupdates für Router, Handy und Computer zeitnah.
- Rechne bei Anrufen und Videos mit Fälschungen und bestätige Geldbitten über einen zweiten Weg.
Häufige Fragen
Welche Chancen und Risiken hat KI?
Dieser Beitrag behandelt die Risiken: Sie reichen von erfundenen Fakten über Betrug bis zu Cyberangriffen, und gegen viele helfen Prüfen, Updates und klare Regeln. Chancen zeigen die Anleitungen dieses Blogs, etwa zur Recherche mit KI.
Sind KI-Agenten gefährlich?
Sie bergen besondere Risiken, weil sie selbstständig handeln und Menschen Fehler schwerer abfangen können. Dazu kommen Angriffe über versteckte Anweisungen in Webseiten oder Dokumenten. Wer Agenten nutzt, sollte ihre Rechte eng begrenzen.
Gibt es einen guten Podcast über KI-Gefahren?
Das BSI spricht in seinem Podcast "Update verfügbar" in Folge 63 mit der Informatikerin Katharina Zweig über Verantwortung bei Entscheidungen durch KI.
Kann KI die Menschheit auslöschen?
Einige bekannte Forschende halten das für ein ernstzunehmendes Risiko, andere für unplausibel. Heutige Systeme haben nach dem International AI Safety Report nicht die Fähigkeiten, die dafür nötig wären.
Quellen
Stand:
- International AI Safety Report (arXiv): International AI Safety Report 2026, Stand 24.02.2026, abgerufen am 22.11.2026. zurück
- Bundesamt für Sicherheit in der Informationstechnik: BSI-IT-Sicherheitsinformation: Auswirkungen auf die Cybersicherheit von Organisationen durch die Entwicklung im Bereich Künstlicher Intelligenz, Stand 22.06.2026, abgerufen am 22.11.2026. zurück
- Bundesamt für Sicherheit in der Informationstechnik: KI und gegenwärtige Cyberbedrohungen, abgerufen am 22.11.2026. zurück
- Center for AI Safety: Statement on AI Risk, Stand 05/2023, abgerufen am 22.11.2026. zurück
- Bundesamt für Sicherheit in der Informationstechnik: Cybersicherheitsmonitor 2026: Online-Betrug und Künstliche Intelligenz, Stand 2026, abgerufen am 22.11.2026. zurück





