Rubrik
Grundlagen der KI
Heutige KI lernt aus sehr vielen Beispielen statistische Muster und wendet sie auf neue Eingaben an. Ein Sprachmodell sagt so Wort für Wort voraus, was als Nächstes passt, ein Bildgenerator baut Bilder schrittweise aus Rauschen auf. Aus diesem Prinzip folgen auch die Grenzen, etwa erfundene Angaben und Probleme mit sehr langen Texten.

Wie KI funktioniert, lässt sich ohne Mathematik erklären, wenn man bei einem Beispiel bleibt. Ein Chatbot wie ChatGPT zerlegt deine Frage in kleine Stücke, sogenannte Token, ein Begriff, den das Lexikon wie andere Fachwörter in wenigen Sätzen erklärt. Dann berechnet er immer wieder, welches Stück als Nächstes am wahrscheinlichsten folgt. Diese Wahrscheinlichkeiten hat das Modell beim Training aus riesigen Textmengen gelernt. Was am Ende dasteht, ist eine plausible Fortsetzung, auch wenn die Antwort wie nachgeschlagen klingt. Daraus erklären sich viele Stärken und Schwächen.
Wie Modelle lernen und arbeiten
Den Aufbau eines Sprachmodells beschreibt Wie ChatGPT funktioniert, vom Vortraining über die Feinabstimmung mit menschlichem Feedback bis zum Zufall bei der Auswahl der Antwort. In heutigen Sprachmodellen steckt ein Transformer, eine Bauweise für neuronale Netze, die jedes Token mit allen anderen im Text verrechnet.
Bildgeneratoren arbeiten anders. Die meisten sind Diffusionsmodelle, die gelernt haben, Rauschen aus Bildern zu entfernen, und ein neues Bild aus reinem Rauschen Schritt für Schritt freilegen; mehr dazu unter Wie funktionieren Bildgeneratoren. Wie maschinelles Lernen und Deep Learning zusammenhängen und wann klassische Verfahren genügen, klärt der Vergleich Machine Learning und Deep Learning. Dort steht auch, dass bei Tabellen mittlerer Größe klassische Verfahren wie Entscheidungsbäume oft vor den tiefen neuronalen Netzen liegen, die ihre Stärken bei Bildern, Sprache und Text haben.
So arbeiten die Modelle
Sprachmodelle, Bildgeneratoren, maschinelles Lernen und das Kontextfenster.
GrundlagenWie ChatGPT funktioniert
GrundlagenWie Bildgeneratoren arbeiten
GrundlagenMachine Learning und Deep Learning
GrundlagenKontextfenster nutzen
Bilder: KI-generiert
Grenzen und Nachvollziehbarkeit
Erfundene Angaben und der Versuch, Entscheidungen von Modellen zu erklären.
Bilder: KI-generiert
Einordnung und Geschichte
Arten von KI, ihre Geschichte und die Ereignisse des laufenden Jahres.
Bilder: KI-generiert
Beruf und Forschung
Was KI-Ingenieure tun und was Quantencomputer für KI bedeuten könnten.
Bilder: KI-generiert
Wo die Grenzen liegen
Weil ein Sprachmodell Wahrscheinlichkeiten fortschreibt, kann es Fakten, Zitate und Quellen erfinden und dabei überzeugt klingen. Ursachen, Beispiele und Gegenmittel stehen auf der Seite zu Halluzinationen. Eine zweite Grenze ist die Menge Text, die ein Modell auf einmal berücksichtigt, das Kontextfenster. Angaben in der Mitte langer Dokumente gehen leichter verloren, deshalb teilst du lange Texte besser auf und stellst die Frage ans Ende.
Warum ein Modell eine bestimmte Antwort gibt, ist oft schwer zu sagen. Verfahren der erklärbaren KI sollen das nachvollziehbar machen, haben aber Schwächen: Das BSI warnt, dass verschiedene Erklärverfahren sich widersprechen und manipuliert werden können.
Einordnung und Geschichte
Begriffe wie schwache und starke KI tauchen in vielen Debatten auf, dabei zählen alle heute verfügbaren Systeme zur schwachen KI (Arten von KI). Von den vier Typen nach Arend Hintze gibt es bisher nur reaktive Maschinen und Systeme mit begrenztem Gedächtnis. Den Weg von Alan Turing bis zu den heutigen Chatbots erzählt die Geschichte der KI, die Ereignisse des laufenden Jahres sammelt ein Monatsüberblick der KI-Entwicklungen.
Wer beruflich in die Richtung will, findet Studiengänge und Aufgaben unter KI-Engineering. Quantencomputer bringen für das Training von KI nach einer Analyse in den Communications of the ACM auf absehbare Zeit keinen Vorteil (mehr unter KI und Quantencomputer).
Häufige Fragen
Was sind die Grundlagen der KI?
Im Mittelpunkt steht maschinelles Lernen: Ein Programm sucht in Beispieldaten nach Mustern und baut daraus sein Modell. Für Sprache und Bilder nutzen heutige Systeme dafür tiefe neuronale Netze, die mit sehr großen Datenmengen trainiert werden.
Denkt eine KI?
Heutige Systeme berechnen wahrscheinliche Fortsetzungen aus gelernten Mustern. Ob und wann Maschinen mehr können, ist offen; den Stand der Forschung zur Frage nach einem Bewusstsein beschreibt die Seite [Hat KI ein Bewusstsein?](/gesellschaft/ki-bewusstsein).






