Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Lokale KI

Lokale KI auf dem Mac

Kurzantwort

Ein Mac mit Apple-Chip eignet sich gut für lokale Sprachmodelle, weil Prozessor und Grafik denselben Arbeitsspeicher nutzen. Der Mac mini mit M6 hat 16 bis 32 GB, mit M5 Pro bis 64 GB, der Mac Studio mit M5 Ultra bis 512 GB⁠13. Im Tempo je Token liegen die kleineren Chips wegen der geringeren Speicherbandbreite hinter starken Grafikkarten⁠17.

Autor
Veröffentlicht
Geprüft
Lesezeit
7 Minuten
Kleiner quadratischer silberner Rechner von der Seite auf einem aufgeräumten Holzschreibtisch, daneben eine flache Tastatur und ein Monitor von der Seite
Ein Mac mini braucht für lokale Sprachmodelle keine zusätzliche Grafikkarte. Bild: KI-generiert

Auf einem Mac mit Apple-Chip laufen lokale Sprachmodelle ohne zusätzliche Grafikkarte. Der Arbeitsspeicher ist dort gemeinsamer Speicher für Prozessor und Grafik, also passt ein Modell hinein, solange der Arbeitsspeicher reicht. Ein Mac mini mit 32 GB fasst damit Modelle, für die man am PC eine Grafikkarte mit 24 GB oder mehr bräuchte⁠1. Einen Mac haben wir nicht im Testpark. Alle Zahlen auf dieser Seite stammen von Apple und den Software-Anbietern und sind nicht selbst gemessen.

Gemeinsamer Arbeitsspeicher als Grafikspeicher

Am PC liegen die Gewichte eines Modells im Speicher der Grafikkarte, getrennt vom Arbeitsspeicher. Beim Mac gibt es diese Trennung nicht. Apples Framework MLX beschreibt das so, dass Daten im gemeinsamen Speicher liegen und Prozessor und Grafik sie ohne Kopieren bearbeiten⁠8. Für lokale KI bedeutet das: Die Größe des Arbeitsspeichers ist die Obergrenze für Modell und Kontext.

Ganz frei ist dieser Speicher nicht. macOS, Browser und andere Programme belegen ihren Teil, und das Modell bekommt, was übrig bleibt. LM Studio empfiehlt deshalb 16 GB oder mehr und rät auf Macs mit 8 GB zu kleinen Modellen und kurzem Kontext⁠6. Den Arbeitsspeicher wählst du beim Kauf; wer lokale KI ernsthaft nutzen will, nimmt lieber eine Stufe mehr.

Zwei kleine Messingschaufeln greifen in dieselbe flache Keramikschale mit weißem Reis auf heller Steinfläche
Prozessor und Grafik bedienen sich aus demselben Speicher. Bild: KI-generiert

Welche Modelle auf welchen Mac passen

Apple hat in einer eigenen Untersuchung gemessen, wie viel Speicher verschiedene Modelle mit MLX auf einem MacBook Pro mit M5 und 24 GB belegen⁠7. Qwen3 mit 8 Milliarden Parametern brauchte in 4 Bit 5,61 GB, in voller BF16-Genauigkeit 17,46 GB. Qwen3 14B in 4 Bit kam auf 9,16 GB, das Mixture-of-Experts-Modell Qwen3 30B-A3B in 4 Bit auf 17,31 GB⁠7.

Daraus ergibt sich eine grobe Zuordnung. Mit 16 GB laufen Modelle bis etwa 8 Milliarden Parameter in 4-Bit-Quantisierung bequem. Mit 24 bis 32 GB passen 14 Milliarden Parameter und Mixture-of-Experts-Modelle um 30 Milliarden⁠7. Ab 64 GB, beim Mac mini mit M5 Pro oder beim MacBook Pro, rücken Modelle um 70 Milliarden Parameter in Reichweite⁠15. Der Mac Studio mit M5 Max lässt sich bis 128 GB ausstatten, mit M5 Ultra bis 512 GB⁠3.

Im VRAM-Rechner vergleichst du den Bedarf deines Modells samt Kontext mit dem Arbeitsspeicher des Mac statt mit dem Grafikspeicher und ziehst ein paar Gigabyte für das System ab.

Wie schnell ein Mac antwortet

Für das Tempo beim Erzeugen von Text zählt die Speicherbandbreite, denn für jedes Token liest der Chip alle Gewichte einmal. Apple gibt für den M6 im Mac mini 153 GB/s an, mit 24 oder 32 GB 170 GB/s⁠1. Der M5 Pro kommt auf 307 GB/s, der M5 Max auf 460 oder 614 GB/s und der M5 Ultra auf 1,2 TB/s⁠13. Zum Vergleich: AMD nennt für die Grafikkarte Radeon RX 9070 XT 640 GB/s, NVIDIA für den Mini-Rechner DGX Spark 273 GB/s⁠1112.

Bei 153 GB/s und einer Modelldatei von 5,61 GB (Qwen3 8B in 4 Bit) liegt die rechnerische Obergrenze bei rund 27 Tokens je Sekunde, weil jedes Token alle Gewichte einmal liest⁠17. Bei großen Modellen ist ein Mac mini deutlich langsamer als eine Grafikkarte der Oberklasse. Mac Studio mit M5 Max oder M5 Ultra erreichen mit 614 GB/s bis 1,2 TB/s die Bandbreite schneller Grafikkarten und haben dabei viel mehr Speicher⁠311.

Laut Apple bringen die neuen Neural Accelerators in der Grafik des M5 vor allem bei der Verarbeitung des Prompts viel: Die Zeit bis zum ersten Token sank gegenüber dem M4 bis auf ein Viertel, die Ausgabe wurde um 19 bis 27 Prozent schneller⁠7. LM Studio nannte für Llama 3.2 1B auf einem M3 Max rund 250 Tokens pro Sekunde mit MLX⁠9. Diese Werte stammen von den Herstellern, mit eigenen Prompts und Einstellungen; mit unseren Messungen auf Grafikkarten sind sie nicht direkt vergleichbar.

Software für macOS

Der einfachste Einstieg ist LM Studio. Seit Version 0.3.4 bringt es auf Apple-Chips eine eigene MLX-Laufzeit mit und lädt Modelle im MLX-Format von Hugging Face⁠9. Voraussetzung ist macOS 14 oder neuer⁠6. Daneben laufen auch die üblichen GGUF-Dateien, und LM Studio kann mehrere Modelle gleichzeitig laden und MLX- mit llama.cpp-Modellen mischen⁠9. Viele Modelle gibt es auf Hugging Face in beiden Formaten; auf dem Mac ist die MLX-Fassung meist die erste Wahl, weil sie für Apple-Chips gebaut ist. Die Bedienung ist auf dem Mac weitgehend dieselbe wie unter Windows (LM Studio).

Ollama nutzt auf dem Mac die Grafikschnittstelle Metal⁠10. Es läuft als App im Hintergrund und ist dieselbe Software wie unter Windows und Linux, die Befehle aus Ollama installieren gelten also auch hier. Wer selbst programmiert, kann MLX direkt nutzen; das Framework stammt von Apples Forschungsteam für maschinelles Lernen und steht unter der MIT-Lizenz⁠8.

Mac mini als KI-Server und für Agenten

Ein Mac mini ist klein, leise und sparsam genug, um dauerhaft zu laufen. Apple gibt eine maximale Leistungsaufnahme von 155 Watt und im Leerlauf einen Schalldruck von 5 dBA an⁠1. Auf einem solchen Gerät kann ein Sprachmodell für die ganze Familie oder ein kleines Büro bereitstehen.

Ollama hört dafür standardmäßig nur auf den eigenen Rechner, Adresse 127.0.0.1 und Port 11434⁠10. Damit andere Geräte im Netz zugreifen können, setzt du auf dem Mac mit launchctl die Variable OLLAMA_HOST auf 0.0.0.0:11434 und startest die App neu⁠10. Mach das nur im eigenen Heimnetz hinter dem Router, denn Ollama fragt in dieser Einstellung nicht nach einem Passwort. Eine Chatoberfläche für alle Geräte im Haus richtest du mit Open WebUI ein. Ein geladenes Modell bleibt laut Ollama fünf Minuten im Speicher, bevor es entladen wird⁠10.

Auch für einen KI-Agenten, der rund um die Uhr Aufgaben erledigt, eignet sich ein Mac mini als Gerät. Das lokale Modell liefert dann die Antworten, der Agent ruft es über die Schnittstelle von Ollama oder LM Studio auf. Bei Agenten gilt besonders: Gib ihm nur die Rechte, die er braucht, und lass ihn nicht unbeaufsichtigt auf Konten oder Zahlungen zugreifen.

Kleiner silberner Rechner auf einem Holzregal neben einem Netzwerk-Switch mit kurzen grauen Kabeln, ein grünes Statuslicht leuchtet
Als kleiner Server stellt der Mac mini ein Modell für das ganze Heimnetz bereit. Bild: KI-generiert

Worauf du beim Kauf achtest

Bei Apple hängen Chip und mögliche Speichergrößen zusammen. Das MacBook Pro mit M5 Max gibt es in der Grundausstattung mit 32 Grafikkernen und 36 GB, im Konfigurator lassen sich mit diesem Chip bis zu 128 GB wählen⁠5. Welche Speichergröße zu welcher Zahl an Grafikkernen gehört, zeigt Apple erst beim Zusammenstellen; prüf das vor dem Kauf. Beim M5 Pro im MacBook Pro reichen die Optionen je nach Grafik von 24 bis 64 GB⁠5. Der Mac mini mit M5 Pro startet mit 24 GB und geht bis 64 GB⁠1. Wer große Modelle plant, muss also manchmal den größeren Chip nehmen, um an den Speicher zu kommen.

Auch die SSD will bedacht sein. Der Mac mini mit M6 beginnt bei 256 GB⁠1, und davon bleibt nach System und Programmen wenig für Modelle übrig. Ein Sprachmodell mit 14 Milliarden Parametern in 4 Bit belegt rund 9 GB⁠7, ein paar davon füllen die Platte schnell. Eine externe SSD über Thunderbolt ist eine günstige Ergänzung für die Modellsammlung.

Was ein Mac für lokale KI kostet

Apple nennt am 22.11.2026 folgende Einstiegspreise: Mac mini mit M6 ab 1.049 Euro, mit M5 Pro ab 1.999 Euro⁠2. Der Mac Studio beginnt mit M5 Max bei 2.999 Euro, mit M5 Ultra bei 6.599 Euro⁠4. Ein MacBook Pro mit 14 Zoll und M6 kostet ab 2.299 Euro, mit 16 Zoll und M5 Pro ab 3.399 Euro⁠5. Mehr Arbeitsspeicher kostet bei allen Geräten Aufpreis.

Ob sich ein Mac lohnt, hängt an der gewünschten Modellgröße⁠7. Für Modelle bis 14 Milliarden Parameter ist ein PC mit einer 16-GB-Grafikkarte meist schneller; Kartenklassen und Preise vergleicht Grafikkarte für lokale KI. Für sehr große Modelle auf einem leisen Gerät ohne Bastelei ist der Mac Studio eine der wenigen Lösungen; Alternativen am PC mit gemeinsamem Speicher stehen in KI-PC kaufen oder bauen. Wer gerade erst anfängt, findet die Grundlagen zu Modellen und Software in Lokale KI für Einsteiger.

Was das für dich heißt

Beim Mac legst du die Modellgröße mit dem Arbeitsspeicher beim Kauf fest.

  1. Rechne vor dem Kauf aus, welches Modell du nutzen willst, und plane einige Gigabyte für macOS ein.
  2. Nimm für den Einstieg LM Studio mit einem MLX-Modell bis 8 Milliarden Parameter.
  3. Öffne Ollama im Netz nur im eigenen Heimnetz hinter dem Router.
  4. Vergleiche bei großen Modellen neben dem Arbeitsspeicher auch die Speicherbandbreite der Chips.

Häufige Fragen

Reicht ein Mac mini mit 16 GB für lokale KI?

Für Modelle bis etwa 8 Milliarden Parameter in 4 Bit ja; Apple hat für Qwen3 8B in 4 Bit 5,61 GB gemessen⁠7. Neben dem Modell brauchen macOS und deine Programme Platz. Wer größere Modelle plant, nimmt 32 GB.

Welche Programme nutzen MLX auf dem Mac?

LM Studio bringt seit Version 0.3.4 eine eigene MLX-Laufzeit mit und lädt MLX-Modelle direkt von Hugging Face⁠9. Wer programmiert, nutzt das Framework MLX selbst⁠8. Ollama arbeitet auf dem Mac mit Metal und GGUF-Dateien⁠10.

Ist ein MacBook für lokale KI geeignet?

Ja, das MacBook Pro mit M5 Max lässt sich mit bis zu 128 GB gemeinsamem Arbeitsspeicher ausstatten⁠5. Unter Dauerlast wird ein Notebook wärmer und lauter als ein Mac mini oder Mac Studio.

Warum misst der KI-Blog keine Macs?

In unserem Testpark stehen zwei NVIDIA-Karten und kein Mac. Statt Werte zu schätzen, nennen wir die Angaben von Apple und den Software-Anbietern mit Quelle.

Quellen

Stand:

  1. Apple: Mac mini: Technische Daten, abgerufen am 22.11.2026. zurück
  2. Apple: Mac mini kaufen (Preise), Stand 22.11.2026, abgerufen am 22.11.2026. zurück
  3. Apple: Mac Studio: Technische Daten, abgerufen am 22.11.2026. zurück
  4. Apple: Mac Studio kaufen (Preise), Stand 22.11.2026, abgerufen am 22.11.2026. zurück
  5. Apple: MacBook Pro: Technische Daten und Preise, Stand 22.11.2026, abgerufen am 22.11.2026. zurück
  6. LM Studio: System Requirements, abgerufen am 22.11.2026. zurück
  7. Apple Machine Learning Research: Exploring LLMs with MLX and the Neural Accelerators in the M5 GPU, Stand 19.11.2025, abgerufen am 22.11.2026. zurück
  8. Apple (ml-explore): MLX auf GitHub, abgerufen am 22.11.2026. zurück
  9. LM Studio: LM Studio 0.3.4 ships with Apple MLX, Stand 08.10.2024, abgerufen am 22.11.2026. zurück
  10. Ollama: FAQ und Hardware: Metal, OLLAMA_HOST, keep_alive, abgerufen am 22.11.2026. zurück
  11. AMD: Radeon RX 9070 XT: Specifications, abgerufen am 22.11.2026. zurück
  12. NVIDIA: DGX Spark: technische Daten, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert

Aus dem Lexikon

Bilder: KI-generiert. Grafiken: KI-Blog