Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Rubrik

Grundlagen der KI

Heutige KI lernt aus sehr vielen Beispielen statistische Muster und wendet sie auf neue Eingaben an. Ein Sprachmodell sagt so Wort für Wort voraus, was als Nächstes passt, ein Bildgenerator baut Bilder schrittweise aus Rauschen auf. Aus diesem Prinzip folgen auch die Grenzen, etwa erfundene Angaben und Probleme mit sehr langen Texten.

Mehrere durchscheinende Flächen liegen schräg übereinander und sind durch feine Linien zu einem lockeren Netz verbunden, einige Punkte in Rot
Schicht für Schicht zu einem Netz. Bild: KI-generiert

Wie KI funktioniert, lässt sich ohne Mathematik erklären, wenn man bei einem Beispiel bleibt. Ein Chatbot wie ChatGPT zerlegt deine Frage in kleine Stücke, sogenannte Token, ein Begriff, den das Lexikon wie andere Fachwörter in wenigen Sätzen erklärt. Dann berechnet er immer wieder, welches Stück als Nächstes am wahrscheinlichsten folgt. Diese Wahrscheinlichkeiten hat das Modell beim Training aus riesigen Textmengen gelernt. Was am Ende dasteht, ist eine plausible Fortsetzung, auch wenn die Antwort wie nachgeschlagen klingt. Daraus erklären sich viele Stärken und Schwächen.

Wie Modelle lernen und arbeiten

Den Aufbau eines Sprachmodells beschreibt Wie ChatGPT funktioniert, vom Vortraining über die Feinabstimmung mit menschlichem Feedback bis zum Zufall bei der Auswahl der Antwort. In heutigen Sprachmodellen steckt ein Transformer, eine Bauweise für neuronale Netze, die jedes Token mit allen anderen im Text verrechnet.

Bildgeneratoren arbeiten anders. Die meisten sind Diffusionsmodelle, die gelernt haben, Rauschen aus Bildern zu entfernen, und ein neues Bild aus reinem Rauschen Schritt für Schritt freilegen; mehr dazu unter Wie funktionieren Bildgeneratoren. Wie maschinelles Lernen und Deep Learning zusammenhängen und wann klassische Verfahren genügen, klärt der Vergleich Machine Learning und Deep Learning. Dort steht auch, dass bei Tabellen mittlerer Größe klassische Verfahren wie Entscheidungsbäume oft vor den tiefen neuronalen Netzen liegen, die ihre Stärken bei Bildern, Sprache und Text haben.

So arbeiten die Modelle

Sprachmodelle, Bildgeneratoren, maschinelles Lernen und das Kontextfenster.

Bilder: KI-generiert

Grenzen und Nachvollziehbarkeit

Erfundene Angaben und der Versuch, Entscheidungen von Modellen zu erklären.

Bilder: KI-generiert

Einordnung und Geschichte

Arten von KI, ihre Geschichte und die Ereignisse des laufenden Jahres.

Bilder: KI-generiert

Beruf und Forschung

Was KI-Ingenieure tun und was Quantencomputer für KI bedeuten könnten.

Bilder: KI-generiert

Wo die Grenzen liegen

Weil ein Sprachmodell Wahrscheinlichkeiten fortschreibt, kann es Fakten, Zitate und Quellen erfinden und dabei überzeugt klingen. Ursachen, Beispiele und Gegenmittel stehen auf der Seite zu Halluzinationen. Eine zweite Grenze ist die Menge Text, die ein Modell auf einmal berücksichtigt, das Kontextfenster. Angaben in der Mitte langer Dokumente gehen leichter verloren, deshalb teilst du lange Texte besser auf und stellst die Frage ans Ende.

Warum ein Modell eine bestimmte Antwort gibt, ist oft schwer zu sagen. Verfahren der erklärbaren KI sollen das nachvollziehbar machen, haben aber Schwächen: Das BSI warnt, dass verschiedene Erklärverfahren sich widersprechen und manipuliert werden können.

Einordnung und Geschichte

Begriffe wie schwache und starke KI tauchen in vielen Debatten auf, dabei zählen alle heute verfügbaren Systeme zur schwachen KI (Arten von KI). Von den vier Typen nach Arend Hintze gibt es bisher nur reaktive Maschinen und Systeme mit begrenztem Gedächtnis. Den Weg von Alan Turing bis zu den heutigen Chatbots erzählt die Geschichte der KI, die Ereignisse des laufenden Jahres sammelt ein Monatsüberblick der KI-Entwicklungen.

Wer beruflich in die Richtung will, findet Studiengänge und Aufgaben unter KI-Engineering. Quantencomputer bringen für das Training von KI nach einer Analyse in den Communications of the ACM auf absehbare Zeit keinen Vorteil (mehr unter KI und Quantencomputer).

Häufige Fragen

Was sind die Grundlagen der KI?

Im Mittelpunkt steht maschinelles Lernen: Ein Programm sucht in Beispieldaten nach Mustern und baut daraus sein Modell. Für Sprache und Bilder nutzen heutige Systeme dafür tiefe neuronale Netze, die mit sehr großen Datenmengen trainiert werden.

Denkt eine KI?

Heutige Systeme berechnen wahrscheinliche Fortsetzungen aus gelernten Mustern. Ob und wann Maschinen mehr können, ist offen; den Stand der Forschung zur Frage nach einem Bewusstsein beschreibt die Seite [Hat KI ein Bewusstsein?](/gesellschaft/ki-bewusstsein).