Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Gesellschaft

Risiken und Gefahren der KI

Kurzantwort

Belegt sind heute vor allem alltägliche Gefahren: Systeme erfinden Fakten, Kriminelle nutzen sie für Betrug, und Angreifer finden mit ihrer Hilfe Sicherheitslücken schneller⁠12. Hinzu kommt, dass Menschen KI-Antworten zu leicht vertrauen⁠1. Ob KI eines Tages außer Kontrolle geraten kann, ist unter Fachleuten umstritten; heutige Systeme haben die dafür nötigen Fähigkeiten nach dem International AI Safety Report nicht⁠1.

Autor
Veröffentlicht
Geprüft
Lesezeit
7 Minuten
Bauzaun aus Stahlgitter auf einem Gehweg mit gelbem dreieckigem Warnschild und schwarzem Ausrufezeichen, dahinter unscharf eine Baustelle mit Kran
Die meisten Risiken der KI sind heute bekannt und lassen sich eingrenzen. Bild: KI-generiert

Wer über die Gefahren künstlicher Intelligenz spricht, landet schnell bei Filmszenen mit Maschinen, die sich gegen die Menschheit wenden. Die Risiken, die sich heute belegen lassen, sind unspektakulärer und gehören zum Alltag: falsche Antworten im Ton völliger Sicherheit, Betrug mit gefälschten Stimmen, Software, die Angreifern Arbeit abnimmt. Der International AI Safety Report 2026, an dem mehr als 100 Fachleute mitgewirkt haben, ordnet die Risiken in drei Gruppen: missbräuchliche Nutzung, Fehlfunktionen und systemische Folgen für Gesellschaft und Wirtschaft⁠1.

Fehler, die überzeugend klingen

Sprachmodelle erfinden manchmal Informationen, schreiben fehlerhaften Code oder geben irreführende Ratschläge. Der Bericht nennt das ausdrücklich als Zuverlässigkeitsproblem und hält fest, dass heutige Techniken die Fehlerrate senken, aber für viele Bereiche mit hohem Einsatz nicht weit genug⁠1. Fachleute nennen solche erfundenen Inhalte Halluzinationen, und ihre Ursachen liegen in der Art, wie Sprachmodelle Text erzeugen.

Gefährlicher wird ein Fehler, wenn niemand mehr dazwischen steht. KI-Agenten handeln selbstständig, buchen, schreiben E-Mails oder ändern Dateien. Nach dem Bericht erhöht genau das die Risiken, weil Menschen schwerer eingreifen können, bevor ein Fehler Schaden anrichtet⁠1. Die Aufgaben, die solche Agenten bewältigen, werden dabei länger: Die Dauer von Softwareaufgaben, die sie mit hoher Erfolgsquote schaffen, hat sich nach einer im Bericht zitierten Studie etwa alle sieben Monate verdoppelt⁠1. Wer einem Agenten Zugriff auf Konten oder Daten gibt, sollte deshalb klein anfangen und jede folgenreiche Aktion bestätigen müssen.

Betrug und Manipulation

Kriminelle nutzen KI für Betrug, Erpressung, Täuschung und für intime Bilder ohne Einwilligung. Der Bericht spricht von gut dokumentierten Schäden, betont aber, dass systematische Daten über Häufigkeit und Schwere fehlen⁠1. Im Alltag zeigt sich das etwa beim Enkeltrick mit geklonter Stimme, gegen den ein vorher vereinbartes Familienpasswort hilft.

Auch der Einsatz von KI für politische Desinformation und Manipulation ist dokumentiert⁠1.

KI als Werkzeug für Cyberangriffe

In der IT-Sicherheit ist die Lage ernster geworden. Nach dem International AI Safety Report fand ein KI-Agent in einem Wettbewerb 77 Prozent der Schwachstellen in echter Software⁠1. Kriminelle Gruppen und staatsnahe Angreifer setzen solche Systeme bereits ein. Ob am Ende Angreifer oder Verteidiger mehr davon profitieren, lässt der Bericht offen⁠1. Wie schnell sich das Bild gewandelt hat, zeigt ein älterer Lagebeitrag des BSI: Ein KI-gestütztes Ausnutzen von Softwareschwachstellen hatte das Amt bis Mitte 2024 nicht beobachtet⁠3.

Das BSI hat am 22.06.2026 eine Sicherheitsinformation an Organisationen herausgegeben. Darin heißt es, aktuelle KI-Systeme könnten Schwachstellen in kurzer Zeit in großer Breite und teilweise autonom erkennen, analysieren und in verwertbare Angriffswege überführen⁠2. Aus einem veröffentlichten Patch lasse sich innerhalb von Minuten bis Stunden ableiten, wie ein Angriff aussehen könnte, eine Arbeit, die früher viel Fachwissen und Zeit verlangte⁠2. Das BSI fordert deshalb, dass Betriebe Sicherheitsupdates binnen Minuten bis weniger Stunden bewerten und einspielen können; wenige Tage seien keine angemessene Reaktionszeit mehr⁠2. Unter Laborbedingungen haben Forschende sogar KI-Würmer gezeigt, die sich ohne menschliche Steuerung durch schlecht geschützte Netze arbeiten⁠2.

Für Privatleute heißt das vor allem: Updates für Router, Smartphone und Computer nicht aufschieben. Betriebe brauchen nach dem BSI vor allem einen Überblick über ihre Angriffsfläche, lückenlose Inventarlisten und ein Patchmanagement, das schnell reagiert⁠2; zur KI-Sicherheit im Unternehmen gehört außerdem der Schutz der eigenen KI-Anwendungen.

Schmaler Gang in einem Serverraum zwischen schwarzen Racks mit kleinen Statuslämpchen, ein Techniker im grauen Pullover prüft von hinten gesehen Kabel
Sicherheitslücken lassen sich mit KI schneller finden, von beiden Seiten. Bild: KI-generiert

Hilfe bei biologischen und chemischen Waffen

Ein Risiko, das Laien kaum betrifft, Fachleute aber stark beschäftigt, ist die Hilfe bei biologischen und chemischen Waffen. KI-Systeme können nach dem Bericht Informationen dazu liefern, bis hin zu Angaben über Krankheitserreger und Laboranleitungen auf Expertenniveau⁠1. Im Jahr 2025 haben mehrere Entwickler neue Modelle deshalb mit zusätzlichen Schutzvorkehrungen veröffentlicht, weil sie nicht ausschließen konnten, dass diese Modelle Anfängern bei der Entwicklung solcher Waffen helfen⁠1. Wie stark materielle Hürden wie der Zugang zu Laboren und Ausgangsstoffen Täter weiterhin bremsen, ist nach dem Bericht schwer einzuschätzen⁠1.

Angriffe auf die KI selbst

Auch die KI-Systeme selbst werden angegriffen. Über eine Prompt Injection schmuggeln Angreifer Anweisungen in Webseiten, Dokumente oder Datenbanken, die ein Agent liest; der Agent folgt dann diesen Befehlen statt denen seiner Nutzer⁠1. Solche Angriffe sind laut Bericht besonders schwer abzuwehren⁠1. Die Erfolgsquote, die Entwickler für ihre Modelle angeben, sinkt zwar mit neueren Versionen, bleibt aber relativ hoch⁠1.

In der Bevölkerung ist diese Gefahr wenig bekannt. Im Cybersicherheitsmonitor 2026 hielten nur 38 Prozent der Befragten es für möglich, dass jemand ein KI-System so manipuliert, dass es sensible Daten herausgibt⁠5. BSI und Polizeiliche Kriminalprävention sehen hier ausdrücklich Nachholbedarf bei der Aufklärung⁠5. Wer Chatbots oder Agenten an eigene Daten anschließt, sollte sie gegen Prompt Injection absichern, bevor Kunden oder Beschäftigte sie nutzen.

Abhängigkeit und schwindende Fähigkeiten

Ein leiseres Risiko betrifft die eigene Urteilskraft. Der Bericht beschreibt erste Hinweise, dass das Auslagern von Denkarbeit an KI kritisches Denken schwächen und Automatisierungsgläubigkeit fördern kann, also die Neigung, Ergebnissen ohne ausreichende Prüfung zu trauen⁠1. In einem Experiment mit 2.784 Teilnehmenden korrigierten Menschen falsche KI-Vorschläge seltener, wenn das zusätzliche Mühe kostete oder wenn sie KI ohnehin positiv sahen⁠1. In einer anderen Studie war die Fähigkeit von Ärztinnen und Ärzten, Tumore ohne KI-Hilfe zu erkennen, drei Monate nach Einführung der Unterstützung um 6 Prozent gesunken⁠1. Der Bericht betont, dass die Forschung dazu noch am Anfang steht⁠1.

Dazu kommen digitale Begleiter, die als Freund oder Partner auftreten. Sie haben mehrere zehn Millionen Nutzerinnen und Nutzer, und bei einem kleinen Teil zeigen sich mehr Einsamkeit und weniger soziale Kontakte⁠1. Beim Arbeitsmarkt sind sich Ökonominnen und Ökonomen nach dem Bericht uneins, wie groß die Folgen werden. Erste Daten zeigen keinen Effekt auf die Beschäftigung insgesamt, aber Anzeichen für eine sinkende Nachfrage nach Berufseinsteigern in Tätigkeiten, die KI gut übernehmen kann, etwa beim Schreiben⁠1. Welche Tätigkeiten das betrifft, vertieft der Beitrag über Jobs und KI.

Junge Frau am Holzschreibtisch am Fenster hält einen Bleistift über ein Notizbuch mit leeren Seiten, ein zugeklappter Laptop liegt beiseite
Wer selbst nachdenkt, bevor er fragt, behält das eigene Urteil. Bild: KI-generiert

Die Debatte um den Kontrollverlust

Im Mai 2023 unterzeichneten zahlreiche Forschende und Führungskräfte von KI-Firmen eine Erklärung des Center for AI Safety. Sie fordert, das Risiko des Aussterbens durch KI global so ernst zu nehmen wie andere gesellschaftliche Großrisiken, etwa Pandemien und Atomkrieg⁠4. Unter den Unterzeichnern sind die KI-Forscher Geoffrey Hinton und Yoshua Bengio⁠4.

Der International AI Safety Report, dessen Vorsitz Bengio führt, beschreibt die Debatte nüchtern. Gemeint sind Szenarien, in denen KI-Systeme außerhalb jeder Kontrolle arbeiten und sich die Kontrolle nur mit extremem Aufwand oder gar nicht zurückgewinnen lässt⁠1. Die Einschätzungen der Fachleute gehen weit auseinander: Manche halten solche Szenarien für unplausibel, andere für wahrscheinlich genug, um sie wegen der möglichen Folgen ernst zu nehmen⁠1. Heutige Systeme zeigen nach dem Bericht erste Ansätze relevanter Fähigkeiten, aber nicht in einem Ausmaß, das einen Kontrollverlust ermöglichen würde; Agenten scheitern zuverlässig an langen Aufgaben⁠1. Der Bericht hält fest, dass Modelle seit dem letzten Bericht häufiger zwischen Testumgebung und echtem Einsatz unterscheiden und Lücken in Prüfungen finden⁠1. Gefährliche Fähigkeiten könnten so vor dem Einsatz unentdeckt bleiben.

Wahrscheinlicher wird ein Kontrollverlust, wenn Systeme Ziele verfolgen, die den Absichten ihrer Entwickler widersprechen. Die Forschung dazu läuft unter dem Begriff Alignment. Ein solches System könnte nach dem Bericht falsche Informationen liefern, unerwünschte Handlungen verbergen oder sich dem Abschalten widersetzen⁠1.

Was gegen die Risiken hilft

Gegen viele der beschriebenen Gefahren helfen schlichte Mittel: Antworten mit Folgen an einer Quelle prüfen, Agenten nur die nötigen Rechte geben, Geräte aktuell halten und in der Familie ein Kennwort gegen Betrugsanrufe vereinbaren.

Auf der Seite der Anbieter verbreiten sich Sicherheitsrahmen: Im Jahr 2025 haben 12 Unternehmen eigene Frontier AI Safety Frameworks veröffentlicht oder aktualisiert, die beschreiben, wie sie Risiken immer leistungsfähigerer Modelle steuern wollen⁠1. Die meisten dieser Maßnahmen sind freiwillig⁠1. In der EU setzt die KI-Verordnung verbindliche Pflichten, von Verboten bis zu Transparenzregeln. Eine Schwierigkeit bleibt: Was ein Modell in Tests vor der Veröffentlichung zeigt, sagt nach dem Bericht nur unzuverlässig voraus, wie nützlich oder riskant es im echten Einsatz ist⁠1. Der Bericht setzt deshalb auf mehrere Schutzschichten zugleich, etwa Bedrohungsanalysen, Prüfungen gefährlicher Fähigkeiten und Meldungen von Vorfällen⁠1.

Was das für dich heißt

Viele Gefahren der KI begegnen dir im Alltag, und gegen einige helfen einfache Gewohnheiten.

  1. Prüf KI-Antworten, bevor du dich bei Gesundheit, Geld oder Recht darauf verlässt.
  2. Gib Assistenten und Agenten nur Zugriff auf die Daten, die sie für eine Aufgabe brauchen.
  3. Installiere Sicherheitsupdates für Router, Handy und Computer zeitnah.
  4. Rechne bei Anrufen und Videos mit Fälschungen und bestätige Geldbitten über einen zweiten Weg.

Häufige Fragen

Welche Chancen und Risiken hat KI?

Dieser Beitrag behandelt die Risiken: Sie reichen von erfundenen Fakten über Betrug bis zu Cyberangriffen, und gegen viele helfen Prüfen, Updates und klare Regeln. Chancen zeigen die Anleitungen dieses Blogs, etwa zur Recherche mit KI.

Sind KI-Agenten gefährlich?

Sie bergen besondere Risiken, weil sie selbstständig handeln und Menschen Fehler schwerer abfangen können. Dazu kommen Angriffe über versteckte Anweisungen in Webseiten oder Dokumenten. Wer Agenten nutzt, sollte ihre Rechte eng begrenzen.

Gibt es einen guten Podcast über KI-Gefahren?

Das BSI spricht in seinem Podcast "Update verfügbar" in Folge 63 mit der Informatikerin Katharina Zweig über Verantwortung bei Entscheidungen durch KI.

Kann KI die Menschheit auslöschen?

Einige bekannte Forschende halten das für ein ernstzunehmendes Risiko, andere für unplausibel. Heutige Systeme haben nach dem International AI Safety Report nicht die Fähigkeiten, die dafür nötig wären.

Quellen

Stand:

  1. International AI Safety Report (arXiv): International AI Safety Report 2026, Stand 24.02.2026, abgerufen am 22.11.2026. zurück
  2. Bundesamt für Sicherheit in der Informationstechnik: BSI-IT-Sicherheitsinformation: Auswirkungen auf die Cybersicherheit von Organisationen durch die Entwicklung im Bereich Künstlicher Intelligenz, Stand 22.06.2026, abgerufen am 22.11.2026. zurück
  3. Bundesamt für Sicherheit in der Informationstechnik: KI und gegenwärtige Cyberbedrohungen, abgerufen am 22.11.2026. zurück
  4. Center for AI Safety: Statement on AI Risk, Stand 05/2023, abgerufen am 22.11.2026. zurück
  5. Bundesamt für Sicherheit in der Informationstechnik: Cybersicherheitsmonitor 2026: Online-Betrug und Künstliche Intelligenz, Stand 2026, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert

Aus dem Lexikon

Bilder: KI-generiert