OpenClaw und lokale LLMs: Die beste Hardware für Ollama

Lokale KI-Modelle mit der Open-Source-Plattform Ollama und dem KI-Agenten OpenClaw erfordern vor allem eines: reichlich RAM und schnellen Speicher. Dieser ClawNews-Guide zeigt konkrete Hardware-Empfehlungen in drei Preisklassen für den Betrieb lokaler Sprachmodelle.

Lokale KI-Modelle sind 2026 eine echte Alternative zu Cloud-Diensten geworden. Dieser Artikel liefert den konkreten Einkaufszettel.

Anzeige

Was verlangt Ollama bei der Hardware?

Ollama ist eine Open-Source-Plattform, die große Sprachmodelle lokal auf dem eigenen Rechner ausführt. Die Anforderungen an die Hardware hängen direkt von der Modellgröße ab. Der entscheidende Faktor ist der Arbeitsspeicher. Nicht die CPU, nicht die GPU. RAM bestimmt, welche Modelle überhaupt genutzt werden können.

Bei Q4-Quantisierung gilt eine einfache Faustregel. Ein Modell mit 7 Milliarden Parametern belegt rund 4,7 GB. Bei 14 Milliarden Parametern sind es knapp 9 GB. Bei 34 Milliarden Parametern fast 20 GB. Hinzu kommt der Bedarf des Betriebssystems und weiterer Programme. Wer eng kalkuliert, erlebt beim Start des Modells eine böse Überraschung. Ollama bricht ab oder lagert auf die Festplatte aus, was die Geschwindigkeit auf einen Bruchteil reduziert.

Eine NVMe-SSD ist Pflicht. Die Modelldateien sind mehrere Gigabyte groß und werden bei jedem Start in den Arbeitsspeicher geladen. Auf einer herkömmlichen Festplatte dauert das Minuten. Auf einer NVMe-SSD wenige Sekunden. Eine dedizierte GPU beschleunigt die Textgenerierung erheblich, ist aber nicht zwingend erforderlich. Ollama läuft auch nur auf der CPU. NVIDIA-GPUs mit CUDA-Unterstützung liefern die besten Ergebnisse. AMD-GPUs werden über ROCm experimentell unterstützt. ROCm ist das AMD-Gegenstück zu CUDA, aktuell aber weniger stabil.

Apple-Silicon-Macs nutzen das Unified Memory und erreichen dank der MLX-Integration ebenfalls gute Geschwindigkeiten. MLX ist das Framework von Apple für maschinelles Lernen. Die Integration kam mit Ollama 0.19 als Preview Ende März 2026 und beschleunigt die Textgenerierung auf den hauseigenen Prozessoren erheblich.

Laut Ollama verdoppelt sich die Geschwindigkeit bei der Textausgabe. Die größten Vorteile zeigen sich dank der GPU Neural Accelerators auf Macs mit M5-Chip. Anfangs unterstützte die MLX-Integration nur Qwen 3.5 in der 35B-A3B-Variante. Mit den Folgeversionen kamen weitere Architekturen hinzu, etwa Gemma 4. Was wir auf dem Mac vom MLX-Update praktisch erwarten können, haben wir in einem eigenen Beitrag zu Ollama 0.19 eingeordnet.

Welches Setup passt zum Budget von unter 300 Euro?

Für den Einstieg reicht ein kompakter Mini-PC. In dieser Preisklasse laufen 7B- bis 8B-Modelle wie LLaMA 3.3 8B, Mistral 7B oder Qwen 2.5 7B. Für einfache Aufgaben wie Textzusammenfassungen, Übersetzungen oder Code-Vorschläge ist das ausreichend.

Mindestens 16 GB RAM und eine NVMe-SSD mit 512 GB oder mehr sind Pflicht. Eine dedizierte GPU gibt es in dieser Preisklasse nicht.

Geeignete Geräte sind Mini-PCs von Herstellern wie Beelink, Minisforum oder Ninkear. Modelle mit Intel N100 oder N150 und 16 GB RAM starten bei rund 150 Euro. Mit einem AMD Ryzen 5 5500U und 16 GB RAM liegen die Preise bei 250 bis 350 Euro. Der Beelink SER5 ist ein beliebtes Beispiel in dieser Kategorie: kompakt, leise, aufrüstbar und mit drei Display-Ausgängen ausgestattet. Der RAM sollte nicht verlötet sein, damit sich dieser später auf 32 GB erweitern lässt. Bei der SSD ist es wichtig, das diese mindestens über PCIe 3.0 verfügt.

Mit einem 8B-Modell in Q4-Quantisierung auf einem Intel N100 liegen die Geschwindigkeiten bei rund 5 bis 10 Token pro Sekunde. Auf einem Ryzen 5 sind 10 bis 15 Token pro Sekunde realistisch. Das reicht für den Einstieg, fühlt sich aber bei längeren Antworten recht träge an. Cloud-Dienste wie Claude oder ChatGPT liefern 50 bis 100 Token pro Sekunde. Wer also Geduld mitbringt, bekommt dafür volle Datenkontrolle und keine laufenden Kosten.