Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Lexikon · S

Super­intelligenz

Kurzantwort

Der Philosoph Nick Bostrom versteht unter Superintelligenz einen Intellekt, der die besten menschlichen Gehirne in praktisch jedem Gebiet weit übertrifft, von wissenschaftlicher Kreativität bis zu sozialen Fähigkeiten⁠1. Ob ein solches System je entsteht und wie gefährlich es wäre, ist in der Forschung heftig umstritten⁠23.

Autor
Veröffentlicht
Geprüft
Lesezeit
3 Minuten
Vorn auf einem Schachbrett steht ein einzelner weißer Bauer, gegenüber eine vollständige Aufstellung dunkler Figuren in zwei Reihen
Weit überlegen in praktisch jedem Feld: So lautet Bostroms Definition von Superintelligenz. Bild: KI-generiert

Ein Schachprogramm, das jeden Großmeister schlägt, ist Menschen überlegen, allerdings nur auf 64 Feldern. Bostrom meint mit Superintelligenz einen Intellekt, der in praktisch allen Feldern vorn liegt, in denen Menschen denken. Wie er umgesetzt wäre, ob als einzelner Rechner, als Netz von Rechnern oder biologisch, und ob er ein Bewusstsein hätte, lässt die Definition ausdrücklich offen⁠1. Unternehmen oder die Wissenschaft als Ganzes zählt Bostrom nicht dazu, obwohl sie in mancher Hinsicht klüger sind als jeder Einzelne⁠1.

Herkunft des Begriffs

Bostrom formulierte seine Definition 1997 in dem Aufsatz "How long before superintelligence?", der 1998 im International Journal of Futures Studies erschien⁠1. Darin hielt er eine Superintelligenz im ersten Drittel des 21. Jahrhunderts für möglich. Er stützte sich dabei auf das Wachstum der Rechenleistung und auf Schätzungen, wie viel das menschliche Gehirn rechnet; dafür setzte er 10 hoch 14 bis 10 hoch 17 Rechenoperationen pro Sekunde an⁠1. Bei der Software hielt er einen Ansatz für aussichtsreich, der die Lernprinzipien des Gehirns nachbildet, und schätzte, dass die Hirnforschung das nötige Wissen in etwa 15 Jahren liefern könne⁠1. In einem Nachtrag von 2008 setzte er die Wahrscheinlichkeit, dass es bis 2033 so weit ist, unter 50 Prozent an⁠1.

Eine Stufe darunter liegt die AGI, eine KI, die Menschen ebenbürtig wäre. Bostroms Überlegung verbindet beide: Gibt es erst eine KI auf menschlichem Niveau, könnte die Superintelligenz rasch folgen, weil das System an seiner eigenen Verbesserung mitarbeiten kann⁠1.

Szenarien

Aus dieser Rückkopplung leitet sich die Idee der technologischen Singularität ab, eines Punkts, nach dem die Entwicklung für Menschen nicht mehr absehbar ist. Daneben nennt Bostrom als möglichen Weg das Hochladen eines menschlichen Geistes auf einen Rechner, das er an Fortschritte in der molekularen Nanotechnologie knüpft⁠1.

OpenAI holte das Thema im Juli 2023 in die eigene Planung: Superintelligenz scheine zwar weit entfernt, könne aber noch in diesem Jahrzehnt kommen⁠2. Das Unternehmen kündigte an, über vier Jahre 20 Prozent der bis dahin gesicherten Rechenleistung für die Frage einzusetzen, wie sich solche Systeme steuern lassen⁠2. Dieses Forschungsfeld heißt Alignment.

Einwände

Arvind Narayanan und Sayash Kapoor halten den Begriff in seiner üblichen Lesart für in sich nicht stimmig⁠3. In ihrem Essay "AI as Normal Technology" vom April 2025 rechnen sie damit, dass sich KI über Jahrzehnte in der Gesellschaft verbreitet, ähnlich wie frühere Techniken⁠3.

Andere halten die Gefahr für so ernst, dass sie ein Verbot fordern. Eine Erklärung des Future of Life Institute verlangt, die Entwicklung von Superintelligenz zu untersagen, bis ein breiter wissenschaftlicher Konsens besteht, dass sie sicher und kontrollierbar möglich ist, und die Öffentlichkeit zustimmt⁠4. Am 22.11.2026 trug die Seite 79.027 Unterschriften⁠4.

Häufige Fragen

Gibt es schon eine Superintelligenz?

Belegt ist keine. OpenAI, das ihre Ankunft in diesem Jahrzehnt für möglich hält, beschrieb sie 2023 als noch weit entfernt⁠2.

Warum warnen manche vor Superintelligenz?

Sie befürchten, dass sich ein System, das Menschen in allem überlegen ist, nicht mehr verlässlich steuern lässt. OpenAI nannte als mögliche Folgen die Entmachtung der Menschheit oder sogar ihr Aussterben⁠2.

Ist Superintelligenz dasselbe wie AGI?

Die beiden Begriffe liegen eine Stufe auseinander. Eine AGI wäre ungefähr so fähig wie ein Mensch, eine Superintelligenz weit fähiger als die besten Menschen⁠1.

Quellen

Stand:

  1. Nick Bostrom: How long before superintelligence? (International Journal of Futures Studies, Band 2, mit Nachträgen), Stand 2008, abgerufen am 22.11.2026. zurück
  2. OpenAI: Introducing Superalignment, Stand 05.07.2023, abgerufen am 22.11.2026. zurück
  3. Knight First Amendment Institute: Narayanan, Kapoor: AI as Normal Technology, Stand 15.04.2025, abgerufen am 22.11.2026. zurück
  4. Future of Life Institute: Statement on Superintelligence, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert