Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Lokale KI

LM Studio

Kurzantwort

LM Studio ist eine Desktop-App, mit der du Sprachmodelle von Hugging Face suchst, lädst und im eigenen Chatfenster nutzt⁠2. Nach der Installation lädst du im Reiter Discover ein Modell, stellst beim Laden Kontextlänge und GPU-Auslagerung ein und chattest offline. Über den Reiter Developer startest du einen Server, den andere Programme wie die OpenAI-Schnittstelle ansprechen⁠68.

Autor
Veröffentlicht
Geprüft
Lesezeit
8 Minuten
Dünne, rechtwinklig abknickende Linien in Lachsrosa laufen auf dunkelblauem Grund in einem rechteckigen Block zusammen
Bild: KI-generiert

Wer lokale Sprachmodelle ausprobieren will, ohne ein Terminal zu öffnen, ist mit LM Studio gut bedient. Die App des Herstellers Element Labs verbindet Modellsuche, Download, Chat und einen lokalen Server in einem Fenster; sobald die Modelldateien auf der Platte liegen, läuft sie ohne Internet⁠213. Seit dem 08.07.2025 ist LM Studio auch für die Arbeit im Unternehmen kostenlos, ein Antrag auf eine Firmenlizenz entfällt⁠12. Wir haben die Version 0.4.28-2 auf unserem Testrechner mit RTX 4090 installiert und mit Llama 3.2 3B betrieben⁠16.

Passt dein Rechner?

Unter Windows braucht LM Studio einen x64-Prozessor mit dem Befehlssatz AVX2 oder einen ARM-Chip vom Typ Snapdragon X Elite. Empfohlen sind 16 GB Arbeitsspeicher und mindestens 4 GB eigener Grafikspeicher⁠1. Auf dem Mac läuft die App nur mit Apple-Chips der Reihen M1 bis M4 und ab macOS 14; Intel-Macs werden nicht unterstützt⁠1. Für Linux gibt es ein AppImage, vorausgesetzt ist Ubuntu 20.04 oder neuer⁠1.

Wie große Modelle flüssig laufen, hängt vor allem am Grafikspeicher: Was ganz hineinpasst, rechnet schnell, was in den Arbeitsspeicher ausweicht, wird langsamer.

LM Studio herunterladen und installieren

  1. Öffne die Downloadseite auf lmstudio.ai. Am 22.11.2026 bot sie für Windows die Version 0.4.28 an⁠14.
  2. Prüfe vor dem Start, ob das Installationsprogramm signiert ist (Rechtsklick, Eigenschaften, Digitale Signaturen). Unsere Datei trug eine gültige Signatur von Element Labs Inc.⁠16
  3. Installiere die App und starte sie einmal. Beim ersten Start legt LM Studio im Benutzerordner das Verzeichnis .lmstudio an; bei uns lagen dort nach der Einrichtung rund 2,6 GB an Laufzeitumgebungen und einem mitgelieferten Einbettungsmodell⁠16.
  4. Stell die Sprache um, wenn du die Oberfläche lieber auf Deutsch hättest: Strg und Komma öffnen die Einstellungen, unter Preferences und Language wählst du Deutsch⁠10.

Die Einstellungen erreichst du erst ab dem Modus Power User⁠10. Die deutsche Übersetzung stammt aus der Community; LM Studio nennt unter anderem Englisch, Chinesisch, Spanisch, Französisch, Deutsch, Koreanisch und Russisch und dazu mehr als 26 weitere Sprachen⁠10.

Den Ordner für Modelle änderst du im Reiter My Models⁠3. Bei uns setzte LM Studio einen geänderten Download-Ordner beim nächsten Start wieder zurück. Wir haben den Unterordner models deshalb mit einer Verzeichnisverknüpfung auf das zweite Laufwerk umgeleitet⁠16. Wenn dein Systemlaufwerk klein ist, richte das vor dem ersten großen Download ein.

Modelle suchen und auswählen

Der Reiter Discover ist die eingebaute Modellsuche; Strg und 2 öffnen ihn von jeder Stelle der App⁠3. Du suchst nach dem Namen einer Modellfamilie wie "qwen" oder "gemma", gibst einen Namen im Muster nutzer/modell ein oder fügst die vollständige Adresse einer Modellseite auf Hugging Face ein⁠3. Die Treffer kommen direkt von dort.

Zu fast jedem Modell gibt es mehrere Dateien mit Kürzeln wie Q3_K_S, Q4_K_M oder Q8_0. Das sind Fassungen desselben Modells mit unterschiedlich starker Quantisierung: je kleiner die Zahl, desto kleiner die Datei und desto größer der Qualitätsverlust. LM Studio rät zu vier Bit oder mehr, wenn der Rechner es schafft⁠3. Unter Windows und Linux lädt die App Dateien im Format GGUF und rechnet sie mit llama.cpp, auf Macs mit Apple-Chip zusätzlich Modelle im Format MLX⁠2.

Bei unserer Installation löste der Befehl lms get das gewünschte Modell ohne Anmeldung nicht auf. Wir haben die GGUF-Datei von Llama 3.2 3B Instruct in Q4_K_M deshalb direkt aus dem Bereich lmstudio-community auf Hugging Face geladen; lms ls zeigte sie danach mit 2,02 GB an⁠16. Für Antworten auf Deutsch eignet sich das Modell, denn Meta führt Deutsch unter den acht offiziell unterstützten Sprachen⁠17.

Laden mit Kontext und GPU-Auslagerung

Gechattet wird im Reiter Chat. Über die Modellauswahl oben wählst du ein heruntergeladenes Modell und kannst vor dem Laden die Ladeparameter anpassen⁠18. Am meisten bewirken dabei Kontextlänge und GPU-Auslagerung.

Die Kontextlänge legt fest, wie viele Token das Modell gleichzeitig im Blick behält, also Frage, bisherigen Verlauf und angehängte Texte zusammen⁠5. Mehr Kontext belegt mehr Speicher. Unser Llama 3.2 3B lief mit 8192 Token, das zeigte lms ps in der Spalte CONTEXT⁠16. Für lange Dokumente lohnt ein größeres Kontextfenster, solange alles in den Grafikspeicher passt.

Die GPU-Auslagerung bestimmt, welcher Anteil des Modells auf der Grafikkarte rechnet. Auf der Befehlszeile entspricht das der Option --gpu mit einem Wert zwischen 0 und 1, mit max für alles oder off für reinen Prozessorbetrieb⁠5. Passt das ganze Modell samt Kontext in den VRAM, stellst du die Auslagerung auf das Maximum. Reicht der Speicher nicht, verschiebt ein kleinerer Wert einen Teil der Schichten in den Arbeitsspeicher; das Modell läuft dann, aber langsamer. Wie viel Speicher ein Modell mit bestimmten Einstellungen brauchen wird, schätzt lms load --estimate-only, ohne es zu laden⁠5.

Mit zwei Grafikkarten schaltest du in den Einstellungen jede Karte einzeln an oder aus und legst bei NVIDIA eine Reihenfolge fest. Die Option "Limit Model Offload to Dedicated GPU Memory" hält die Modellgewichte im eigenen Speicher der Karte und schiebt den Rest in den Arbeitsspeicher, statt den langsamen gemeinsamen Grafikspeicher von Windows zu nutzen⁠15. Gefundene Werte speicherst du als Standard für das Modell: Im Reiter My Models öffnet das Zahnrad die Voreinstellungen für GPU-Auslagerung, Kontextgröße und Flash Attention⁠4.

Bei voller Auslagerung auf unsere RTX 4090 erzeugte Llama 3.2 3B in einer Probemessung im Mittel 282,4 Token je Sekunde, das erste Token kam nach 0,01 Sekunden⁠16. Der Grafikspeicher wuchs dabei um rund 3,4 GB⁠16.

Mit Dokumenten chatten

An eine Chatnachricht hängst du Dateien im Format .docx, .pdf oder .txt an⁠11. Kurze Dokumente fügt LM Studio vollständig in das Gespräch ein. Ist ein Dokument zu lang für den Kontext, sucht die App mit RAG die passenden Abschnitte heraus und gibt nur diese an das Modell weiter⁠11. Für einzelne Unterlagen ist das der kürzeste Weg. Für eine ganze Dokumentensammlung, die mehrere Leute nutzen, ist eine Weboberfläche wie Open WebUI oder ein eigenes RAG-System die bessere Wahl.

Hände sortieren einige schlichte Mappen aus Packpapier auf einem Holztisch, daneben ein zugeklappter Laptop, eine Lesebrille und ein Bleistift
Einzelne Unterlagen hängst du in LM Studio direkt an die Chatnachricht. Bild: KI-generiert

LM Studio als lokaler Server

Im Reiter Developer startet ein Schalter den Server, auf der Befehlszeile tut es lms server start⁠6. Andere Programme sprechen ihn wie die Schnittstelle von OpenAI an, mit der Basisadresse http://localhost:1234/v1⁠8. Unterstützt werden unter anderem die Endpunkte /v1/models, /v1/chat/completions, /v1/completions, /v1/embeddings und /v1/responses⁠8. Im Feld model steht der Name, den LM Studio dem Modell gibt⁠8. Unser Server auf Port 1234 meldete unter /v1/models das Sprachmodell llama-3.2-3b-instruct und das mitgelieferte Einbettungsmodell text-embedding-nomic-embed-text-v1.5⁠16. Daneben gibt es Endpunkte im Format von Anthropic sowie eine eigene REST-Schnittstelle⁠6.

In den Servereinstellungen legst du fest, wer zugreifen darf⁠7:

  • Serve on Local Network macht den Server für andere Geräte im Netz erreichbar.
  • Require Authentication verlangt von jedem Programm einen gültigen API-Schlüssel im Header Authorization.
  • Just in Time Model Loading lädt ein Modell erst bei der ersten Anfrage; zusätzliche Schalter entladen unbenutzte Modelle wieder.
  • Enable CORS erlaubt Anfragen von Webseiten anderer Herkunft.

Das Werkzeug lms kommt mit der App, du musst sie nur einmal gestartet haben⁠9. Damit verwaltest du alles aus Skripten heraus: lms ls listet die Modelle auf der Platte, lms ps die geladenen, lms load und lms unload --all laden und entladen, lms server stop beendet den Server⁠9. Für Rechner ohne Bildschirm gibt es eine Fassung ohne Oberfläche, die der Hersteller llmster nennt⁠2.

Zwei Optionen von lms load sind für den Serverbetrieb praktisch. Mit --identifier gibst du dem geladenen Modell einen festen Namen, unter dem deine Programme es ansprechen, auch wenn du später eine andere Datei lädst. Mit --ttl und einer Zahl in Sekunden entlädt LM Studio das Modell, sobald es so lange unbenutzt war; der Wert 3600 entspricht einer Stunde⁠5. So bleibt der Grafikspeicher nicht dauerhaft belegt, wenn du die Karte zwischendurch für Bildmodelle oder Spiele brauchst. Ob der Server antwortet, prüfst du am schnellsten mit einer Anfrage an /v1/chat/completions per curl, wie sie die Dokumentation zeigt⁠8.

Grenzen der App

LM Studio ist auf einen Rechner und eine Person ausgelegt: Die Dokumentation, die wir gelesen haben, beschreibt keine Benutzerverwaltung und keine Weboberfläche für ein Team, Single Sign-on bietet der Enterprise-Tarif⁠12. Für ein Team setzt du eine Oberfläche wie Open WebUI auf den Server. Die Nutzungsbedingungen in der Fassung vom 23.08.2026 erlauben den Einsatz für private Zwecke und interne Geschäftszwecke; Weiterverteilung und den Betrieb als Dienst für Dritte schränken sie ein⁠13. Wer so etwas plant, liest die Bedingungen vorher vollständig.

Unter der Haube rechnet LM Studio mit llama.cpp, bei uns in der Laufzeitumgebung llama.cpp CUDA 2.67.0⁠216. Wer jeden Startparameter selbst setzen will, startet llama.cpp direkt (llama.cpp, GGUF und vLLM). Gegen das Befehlszeilenprogramm Ollama, gemessen mit demselben Modell, tritt die App im Vergleich Ollama oder LM Studio an.

Was das für dich heißt

Für den Einstieg ohne Terminal reicht LM Studio mit einem Modell in vier Bit, das ganz in deinen Grafikspeicher passt.

  1. Prüf die Signatur des Installers, bevor du ihn startest.
  2. Leg den Modellordner vor dem ersten Download auf ein großes Laufwerk.
  3. Stell die GPU-Auslagerung auf das Maximum und senk nur, wenn das Laden scheitert.
  4. Schalte Require Authentication ein, bevor du den Server im Netz freigibst.

Häufige Fragen

Darf ich LM Studio in der Firma kostenlos nutzen?

Ja. Seit Juli 2025 ist die App zu Hause und bei der Arbeit kostenlos, ein Formular oder eine Anfrage beim Hersteller ist nicht mehr nötig⁠12. Für Funktionen wie Single Sign-on bietet Element Labs einen Enterprise-Tarif an⁠12.

Läuft LM Studio auf einem älteren Mac mit Intel-Prozessor?

Nein, unterstützt werden nur Macs mit Apple-Chip ab M1 und macOS 14⁠1. Auf einem Intel-Mac ist Ollama eine Möglichkeit, das dort allerdings nur auf dem Prozessor rechnet.

Wo legt LM Studio die Modelle ab?

Unter Windows lagen sie bei uns im Unterordner models des Verzeichnisses .lmstudio im Benutzerordner⁠16. Einen anderen Ordner stellst du im Reiter My Models ein⁠3.

Brauche ich für LM Studio eine Internetverbindung?

Nur für die Modellsuche und den Download. Danach läuft die App laut Hersteller vollständig offline, auch der Chat mit angehängten Dokumenten⁠2.

Quellen

Stand:

  1. LM Studio (Element Labs): Systemanforderungen, abgerufen am 22.11.2026. zurück
  2. LM Studio (Element Labs): Dokumentation der App: Überblick, abgerufen am 22.11.2026. zurück
  3. LM Studio (Element Labs): Modelle herunterladen, abgerufen am 22.11.2026. zurück
  4. LM Studio (Element Labs): Standardeinstellungen je Modell, abgerufen am 22.11.2026. zurück
  5. LM Studio (Element Labs): lms load: Modelle laden und Speicher schätzen, abgerufen am 22.11.2026. zurück
  6. LM Studio (Element Labs): Lokalen Server starten, abgerufen am 22.11.2026. zurück
  7. LM Studio (Element Labs): Servereinstellungen, abgerufen am 22.11.2026. zurück
  8. LM Studio (Element Labs): OpenAI-kompatible Endpunkte, abgerufen am 22.11.2026. zurück
  9. LM Studio (Element Labs): Befehlszeile lms, abgerufen am 22.11.2026. zurück
  10. LM Studio (Element Labs): Sprachen der Oberfläche, abgerufen am 22.11.2026. zurück
  11. LM Studio (Element Labs): Mit Dokumenten chatten, abgerufen am 22.11.2026. zurück
  12. LM Studio (Element Labs): Blogbeitrag: kostenlos auch für die Arbeit, Stand 08.07.2025, abgerufen am 22.11.2026. zurück
  13. LM Studio (Element Labs): Nutzungsbedingungen der App, Stand 23.08.2026, abgerufen am 22.11.2026. zurück
  14. LM Studio (Element Labs): Downloadseite, abgerufen am 22.11.2026. zurück
  15. LM Studio (Element Labs): Versionshinweise 0.3.14: Steuerung mehrerer Grafikkarten, abgerufen am 22.11.2026. zurück
  16. Eigene Messung: Eigene Installation LM Studio 0.4.28-2 (Laufzeit llama.cpp CUDA 2.67.0) auf RTX 4090, Ausgaben von lms ls, lms ps und /v1/models, Probemessung Llama 3.2 3B Q4_K_M mit drei Läufen, Stand 22.11.2026, abgerufen am 22.11.2026. zurück
  17. Meta auf Hugging Face: Llama 3.2 3B Instruct, Modellkarte, Stand 25.09.2024, abgerufen am 22.11.2026. zurück
  18. LM Studio (Element Labs): Erste Schritte, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert

Aus dem Lexikon

Bilder: KI-generiert. Grafiken: KI-Blog