Lokale KI
Lokale KI auf dem Mac
Kurzantwort
Ein Mac mit Apple-Chip eignet sich gut für lokale Sprachmodelle, weil Prozessor und Grafik denselben Arbeitsspeicher nutzen. Der Mac mini mit M6 hat 16 bis 32 GB, mit M5 Pro bis 64 GB, der Mac Studio mit M5 Ultra bis 512 GB13. Im Tempo je Token liegen die kleineren Chips wegen der geringeren Speicherbandbreite hinter starken Grafikkarten17.

Auf einem Mac mit Apple-Chip laufen lokale Sprachmodelle ohne zusätzliche Grafikkarte. Der Arbeitsspeicher ist dort gemeinsamer Speicher für Prozessor und Grafik, also passt ein Modell hinein, solange der Arbeitsspeicher reicht. Ein Mac mini mit 32 GB fasst damit Modelle, für die man am PC eine Grafikkarte mit 24 GB oder mehr bräuchte1. Einen Mac haben wir nicht im Testpark. Alle Zahlen auf dieser Seite stammen von Apple und den Software-Anbietern und sind nicht selbst gemessen.
Gemeinsamer Arbeitsspeicher als Grafikspeicher
Am PC liegen die Gewichte eines Modells im Speicher der Grafikkarte, getrennt vom Arbeitsspeicher. Beim Mac gibt es diese Trennung nicht. Apples Framework MLX beschreibt das so, dass Daten im gemeinsamen Speicher liegen und Prozessor und Grafik sie ohne Kopieren bearbeiten8. Für lokale KI bedeutet das: Die Größe des Arbeitsspeichers ist die Obergrenze für Modell und Kontext.
Ganz frei ist dieser Speicher nicht. macOS, Browser und andere Programme belegen ihren Teil, und das Modell bekommt, was übrig bleibt. LM Studio empfiehlt deshalb 16 GB oder mehr und rät auf Macs mit 8 GB zu kleinen Modellen und kurzem Kontext6. Den Arbeitsspeicher wählst du beim Kauf; wer lokale KI ernsthaft nutzen will, nimmt lieber eine Stufe mehr.

Welche Modelle auf welchen Mac passen
Apple hat in einer eigenen Untersuchung gemessen, wie viel Speicher verschiedene Modelle mit MLX auf einem MacBook Pro mit M5 und 24 GB belegen7. Qwen3 mit 8 Milliarden Parametern brauchte in 4 Bit 5,61 GB, in voller BF16-Genauigkeit 17,46 GB. Qwen3 14B in 4 Bit kam auf 9,16 GB, das Mixture-of-Experts-Modell Qwen3 30B-A3B in 4 Bit auf 17,31 GB7.
Daraus ergibt sich eine grobe Zuordnung. Mit 16 GB laufen Modelle bis etwa 8 Milliarden Parameter in 4-Bit-Quantisierung bequem. Mit 24 bis 32 GB passen 14 Milliarden Parameter und Mixture-of-Experts-Modelle um 30 Milliarden7. Ab 64 GB, beim Mac mini mit M5 Pro oder beim MacBook Pro, rücken Modelle um 70 Milliarden Parameter in Reichweite15. Der Mac Studio mit M5 Max lässt sich bis 128 GB ausstatten, mit M5 Ultra bis 512 GB3.
Im VRAM-Rechner vergleichst du den Bedarf deines Modells samt Kontext mit dem Arbeitsspeicher des Mac statt mit dem Grafikspeicher und ziehst ein paar Gigabyte für das System ab.
Wie schnell ein Mac antwortet
Für das Tempo beim Erzeugen von Text zählt die Speicherbandbreite, denn für jedes Token liest der Chip alle Gewichte einmal. Apple gibt für den M6 im Mac mini 153 GB/s an, mit 24 oder 32 GB 170 GB/s1. Der M5 Pro kommt auf 307 GB/s, der M5 Max auf 460 oder 614 GB/s und der M5 Ultra auf 1,2 TB/s13. Zum Vergleich: AMD nennt für die Grafikkarte Radeon RX 9070 XT 640 GB/s, NVIDIA für den Mini-Rechner DGX Spark 273 GB/s1112.
Bei 153 GB/s und einer Modelldatei von 5,61 GB (Qwen3 8B in 4 Bit) liegt die rechnerische Obergrenze bei rund 27 Tokens je Sekunde, weil jedes Token alle Gewichte einmal liest17. Bei großen Modellen ist ein Mac mini deutlich langsamer als eine Grafikkarte der Oberklasse. Mac Studio mit M5 Max oder M5 Ultra erreichen mit 614 GB/s bis 1,2 TB/s die Bandbreite schneller Grafikkarten und haben dabei viel mehr Speicher311.
Laut Apple bringen die neuen Neural Accelerators in der Grafik des M5 vor allem bei der Verarbeitung des Prompts viel: Die Zeit bis zum ersten Token sank gegenüber dem M4 bis auf ein Viertel, die Ausgabe wurde um 19 bis 27 Prozent schneller7. LM Studio nannte für Llama 3.2 1B auf einem M3 Max rund 250 Tokens pro Sekunde mit MLX9. Diese Werte stammen von den Herstellern, mit eigenen Prompts und Einstellungen; mit unseren Messungen auf Grafikkarten sind sie nicht direkt vergleichbar.
Software für macOS
Der einfachste Einstieg ist LM Studio. Seit Version 0.3.4 bringt es auf Apple-Chips eine eigene MLX-Laufzeit mit und lädt Modelle im MLX-Format von Hugging Face9. Voraussetzung ist macOS 14 oder neuer6. Daneben laufen auch die üblichen GGUF-Dateien, und LM Studio kann mehrere Modelle gleichzeitig laden und MLX- mit llama.cpp-Modellen mischen9. Viele Modelle gibt es auf Hugging Face in beiden Formaten; auf dem Mac ist die MLX-Fassung meist die erste Wahl, weil sie für Apple-Chips gebaut ist. Die Bedienung ist auf dem Mac weitgehend dieselbe wie unter Windows (LM Studio).
Ollama nutzt auf dem Mac die Grafikschnittstelle Metal10. Es läuft als App im Hintergrund und ist dieselbe Software wie unter Windows und Linux, die Befehle aus Ollama installieren gelten also auch hier. Wer selbst programmiert, kann MLX direkt nutzen; das Framework stammt von Apples Forschungsteam für maschinelles Lernen und steht unter der MIT-Lizenz8.
Mac mini als KI-Server und für Agenten
Ein Mac mini ist klein, leise und sparsam genug, um dauerhaft zu laufen. Apple gibt eine maximale Leistungsaufnahme von 155 Watt und im Leerlauf einen Schalldruck von 5 dBA an1. Auf einem solchen Gerät kann ein Sprachmodell für die ganze Familie oder ein kleines Büro bereitstehen.
Ollama hört dafür standardmäßig nur auf den eigenen Rechner, Adresse 127.0.0.1 und Port 1143410. Damit andere Geräte im Netz zugreifen können, setzt du auf dem Mac mit launchctl die Variable OLLAMA_HOST auf 0.0.0.0:11434 und startest die App neu10. Mach das nur im eigenen Heimnetz hinter dem Router, denn Ollama fragt in dieser Einstellung nicht nach einem Passwort. Eine Chatoberfläche für alle Geräte im Haus richtest du mit Open WebUI ein. Ein geladenes Modell bleibt laut Ollama fünf Minuten im Speicher, bevor es entladen wird10.
Auch für einen KI-Agenten, der rund um die Uhr Aufgaben erledigt, eignet sich ein Mac mini als Gerät. Das lokale Modell liefert dann die Antworten, der Agent ruft es über die Schnittstelle von Ollama oder LM Studio auf. Bei Agenten gilt besonders: Gib ihm nur die Rechte, die er braucht, und lass ihn nicht unbeaufsichtigt auf Konten oder Zahlungen zugreifen.

Worauf du beim Kauf achtest
Bei Apple hängen Chip und mögliche Speichergrößen zusammen. Das MacBook Pro mit M5 Max gibt es in der Grundausstattung mit 32 Grafikkernen und 36 GB, im Konfigurator lassen sich mit diesem Chip bis zu 128 GB wählen5. Welche Speichergröße zu welcher Zahl an Grafikkernen gehört, zeigt Apple erst beim Zusammenstellen; prüf das vor dem Kauf. Beim M5 Pro im MacBook Pro reichen die Optionen je nach Grafik von 24 bis 64 GB5. Der Mac mini mit M5 Pro startet mit 24 GB und geht bis 64 GB1. Wer große Modelle plant, muss also manchmal den größeren Chip nehmen, um an den Speicher zu kommen.
Auch die SSD will bedacht sein. Der Mac mini mit M6 beginnt bei 256 GB1, und davon bleibt nach System und Programmen wenig für Modelle übrig. Ein Sprachmodell mit 14 Milliarden Parametern in 4 Bit belegt rund 9 GB7, ein paar davon füllen die Platte schnell. Eine externe SSD über Thunderbolt ist eine günstige Ergänzung für die Modellsammlung.
Was ein Mac für lokale KI kostet
Apple nennt am 22.11.2026 folgende Einstiegspreise: Mac mini mit M6 ab 1.049 Euro, mit M5 Pro ab 1.999 Euro2. Der Mac Studio beginnt mit M5 Max bei 2.999 Euro, mit M5 Ultra bei 6.599 Euro4. Ein MacBook Pro mit 14 Zoll und M6 kostet ab 2.299 Euro, mit 16 Zoll und M5 Pro ab 3.399 Euro5. Mehr Arbeitsspeicher kostet bei allen Geräten Aufpreis.
Ob sich ein Mac lohnt, hängt an der gewünschten Modellgröße7. Für Modelle bis 14 Milliarden Parameter ist ein PC mit einer 16-GB-Grafikkarte meist schneller; Kartenklassen und Preise vergleicht Grafikkarte für lokale KI. Für sehr große Modelle auf einem leisen Gerät ohne Bastelei ist der Mac Studio eine der wenigen Lösungen; Alternativen am PC mit gemeinsamem Speicher stehen in KI-PC kaufen oder bauen. Wer gerade erst anfängt, findet die Grundlagen zu Modellen und Software in Lokale KI für Einsteiger.
Was das für dich heißt
Beim Mac legst du die Modellgröße mit dem Arbeitsspeicher beim Kauf fest.
- Rechne vor dem Kauf aus, welches Modell du nutzen willst, und plane einige Gigabyte für macOS ein.
- Nimm für den Einstieg LM Studio mit einem MLX-Modell bis 8 Milliarden Parameter.
- Öffne Ollama im Netz nur im eigenen Heimnetz hinter dem Router.
- Vergleiche bei großen Modellen neben dem Arbeitsspeicher auch die Speicherbandbreite der Chips.
Häufige Fragen
Reicht ein Mac mini mit 16 GB für lokale KI?
Für Modelle bis etwa 8 Milliarden Parameter in 4 Bit ja; Apple hat für Qwen3 8B in 4 Bit 5,61 GB gemessen7. Neben dem Modell brauchen macOS und deine Programme Platz. Wer größere Modelle plant, nimmt 32 GB.
Welche Programme nutzen MLX auf dem Mac?
Ist ein MacBook für lokale KI geeignet?
Ja, das MacBook Pro mit M5 Max lässt sich mit bis zu 128 GB gemeinsamem Arbeitsspeicher ausstatten5. Unter Dauerlast wird ein Notebook wärmer und lauter als ein Mac mini oder Mac Studio.
Warum misst der KI-Blog keine Macs?
In unserem Testpark stehen zwei NVIDIA-Karten und kein Mac. Statt Werte zu schätzen, nennen wir die Angaben von Apple und den Software-Anbietern mit Quelle.
Quellen
Stand:
- Apple: Mac mini: Technische Daten, abgerufen am 22.11.2026. zurück
- Apple: Mac mini kaufen (Preise), Stand 22.11.2026, abgerufen am 22.11.2026. zurück
- Apple: Mac Studio: Technische Daten, abgerufen am 22.11.2026. zurück
- Apple: Mac Studio kaufen (Preise), Stand 22.11.2026, abgerufen am 22.11.2026. zurück
- Apple: MacBook Pro: Technische Daten und Preise, Stand 22.11.2026, abgerufen am 22.11.2026. zurück
- LM Studio: System Requirements, abgerufen am 22.11.2026. zurück
- Apple Machine Learning Research: Exploring LLMs with MLX and the Neural Accelerators in the M5 GPU, Stand 19.11.2025, abgerufen am 22.11.2026. zurück
- Apple (ml-explore): MLX auf GitHub, abgerufen am 22.11.2026. zurück
- LM Studio: LM Studio 0.3.4 ships with Apple MLX, Stand 08.10.2024, abgerufen am 22.11.2026. zurück
- Ollama: FAQ und Hardware: Metal, OLLAMA_HOST, keep_alive, abgerufen am 22.11.2026. zurück
- AMD: Radeon RX 9070 XT: Specifications, abgerufen am 22.11.2026. zurück
- NVIDIA: DGX Spark: technische Daten, abgerufen am 22.11.2026. zurück




