Ollama – Lokale KI-Modelle mit Subagenten für Entwickler 2026

Ollama ist eine Open Source Plattform, mit der Entwickler große Sprachmodelle (LLMs) lokal auf dem eigenen Rechner ausführen können, ohne Cloud, ohne API Schlüssel und ohne Daten an Dritte zu senden. Seit dem Launch 2023 hat sich Ollama zum meistgenutzten lokalen LLM Runner entwickelt und unterstützt mittlerweile über 150 Modelle aus der hauseigenen Bibliothek.

Der Kern von Ollama ist einfach: Ein einziger Befehl wie ollama run llama3.2 lädt ein KI-Modell herunter und startet eine interaktive Chat Session im Terminal. Was Ollama 2026 besonders spannend macht, sind die brandneuen Features: Subagenten für parallele Aufgabenausführung und eine integrierte Websuche, die ohne MCP Server oder zusätzliche Konfiguration funktioniert.

Für Unternehmen in der EU ist Ollama besonders relevant: Wer KI-Modelle lokal betreibt, behält die volle Kontrolle über sensible Daten, ein entscheidender Vorteil in Zeiten von DSGVO und Compliance und wachsenden Anforderungen. Gleichzeitig entfallen laufende API Kosten, was Ollama für Teams jeder Größe attraktiv macht.

Bei Never Code Alone läuft Ollama nicht nur im Testlabor, sondern täglich im eigenen Stack: lokale Modelle wie Qwen und Llama betreiben wir produktiv für KI-gestütztes Content Marketing und Vibe Coding. Aus dieser Praxis kennen wir die Stolpersteine beim Wechsel von der Cloud auf eine eigene, DSGVO konforme KI-Infrastruktur.

Zwei eigene Produkte setzen direkt auf dieser lokalen Inferenz auf. Die NCA MCP Middleware macht Unternehmensdaten aus ERP, Warenwirtschaft, Zeiterfassung und CRM als geprüfte Tools für Agenten nutzbar, das Modell dahinter läuft über Ollama im eigenen Netz. Die NCA PHP AI Guardrails sichern ab, dass der Code aus einem lokalen Modell mit Specs, Tests und Quality Gates ins bestehende Projekt passt.

Teams begleiten wir vom ersten Prototyp bis in die Production. Wir übernehmen die Beratung zum Selbsthosten von KI-Assistenten, planen eine Self Hosted KI-Architektur für Unternehmen mit Multi Tenant und sorgen mit unserer Vibe Coding Datenschutz und DSGVO-Beratung dafür, dass sensible Daten das Firmennetz nie verlassen. Wer Ollama neu ins Team bringt, findet im Vibe Coding Onboarding den passenden Einstieg, während unser Vibe Coding Consulting die Gesamtstrategie liefert und ein Codebase Audit für KI generierten Code die Qualität absichert.

Die V4 Familie ist seit dem 24. April 2026 draußen, inzwischen komplett mit V4-Pro und V4-Flash. Am 31. Juli kam der Nachschlag: DeepSeek-V4-Flash-0731 liegt als eigener Tag in der Ollama Cloud. Gleiche Architektur, gleiche Größe, neu post trainiert. Ollama nennt als Grund für das Update ausdrücklich die stärkeren agentischen Fähigkeiten. Einen Tag nach dem Start folgte ein Durchsatz Update, das den Tag laut Ollama gut doppelt so schnell macht.

Das Modell bringt eine Million Token Kontext mit und drei wählbare Denkstufen: schnelle Antwort ganz ohne Reasoning, normales Thinking für saubere Logik und Max Thinking für die harten Fälle. Damit taugt es als Backbone für Coding Agents wie Claude Code, OpenClaw, den Hermes Agent oder OpenCode und übernimmt dort Recherche, Code Generierung, Refactoring und mehrstufige Tool Aufrufe. Der lange Kontext erlaubt komplette Codebases in einer Session.

Ein Flag entscheidet, welches Modell unter deinem Agenten arbeitet. Der Agent bleibt, das Backbone wird getauscht. Beide V4 Modelle stehen unter MIT Lizenz und eignen sich als Cloud Ergänzung zu lokal gehosteten Setups. Wichtig bleibt die Trennung: Cloud Tags laufen auf fremder Infrastruktur, nicht auf deiner Hardware. Die vollständige Einordnung mit Preisen, Benchmarks und DSGVO Risiken steht in unserem Artikel zu DeepSeek V4 für Entwickler. Für die produktive Einbindung in eigene KI Agents unterstützen wir Teams in der Vibe Coding Beratung mit Routing Logik und DSGVO konformem Aufbau.

OpenClaw integriert Ollama seit März 2026 als vollwertigen Model Provider mit nativem Tool Calling. Statt der OpenAI kompatiblen /v1 Schnittstelle nutzt OpenClaw direkt die native Ollama API (http://host:11434 ohne /v1 Suffix), nur so funktionieren Tool Calling und Streaming gleichzeitig stabil.

Schnellstart mit openclaw onboard:

• Modell pullen: ollama pull glm-4.7-flash
• Onboarding starten: openclaw onboard und Ollama auswählen
• Oder manuell: export OLLAMA_API_KEY="ollama-local"

OpenClaw erkennt alle lokal installierten Modelle automatisch über /api/tags und stellt sie als Provider bereit, inklusive Kontextfenster Erkennung. Cloud Modelle wie kimi-k2.5:cloud oder glm-5:cloud können ergänzend eingebunden werden.

Die vollständige Konfigurationsreferenz, inklusive Remote Setup, expliziter Modell Definitionen und Legacy Modus, findet sich in der offiziellen OpenClaw Dokumentation für den Ollama Provider.

Ollama abstrahiert die Komplexität des lokalen LLM Betriebs in eine einzige CLI Anwendung. Im Hintergrund verwaltet die Plattform Modell Downloads, Quantisierung, GPU Zuweisung und die REST API, alles automatisch. Entwickler müssen sich nicht mit GGUF Dateien, CUDA Treibern oder Kontextfenster Konfiguration herumschlagen.

Die wichtigsten Befehle auf einen Blick:

• ollama pull [modell] – Modell herunterladen ohne Chat zu starten
• ollama run [modell] – Modell starten und direkt chatten
• ollama list – Alle lokal installierten Modelle anzeigen
• ollama serve – Ollama als API Server starten (Port 11434)
• ollama launch claude --model [modell]:cloud – Claude Code mit Cloud Modellen starten

Seit September 2025 enthält Ollama ein überarbeitetes Model Scheduling: Die präzise Speicherverwaltung reduziert Out of Memory Abstürze und optimiert die GPU Auslastung. Benchmarks zeigen Geschwindigkeitsverbesserungen von bis zu 64 % gegenüber älteren Versionen, beispielsweise 85 Tokens pro Sekunde statt zuvor 52 Tokens pro Sekunde bei vergleichbarer Hardware.

Besonders für Multi GPU Setups bringt das neue Scheduling echte Vorteile: Ollama verteilt die Last intelligent auf alle verfügbaren GPUs und meldet die Speicherauslastung akkurat über Tools wie nvidia-smi. Das macht den lokalen Betrieb auch für größere Modelle mit 30B+ Parametern praxistauglich.

Die vielleicht wichtigste Neuerung: Ollama unterstützt jetzt Subagenten und Websuche direkt in Claude Code, ganz ohne MCP Server, API Keys oder Docker Compose Dateien. Ein einziger Befehl reicht:

Damit startet Claude Code mit dem MiniMax M2.5 Modell aus Ollamas Cloud, inklusive automatischer Subagenten und Websuche Funktionalität. Das Prinzip funktioniert mit jedem Cloud Modell in Ollamas Bibliothek.

Was können Subagenten? Subagenten arbeiten parallel an verschiedenen Aufgaben, jeder in seinem eigenen isolierten Kontext. Das bedeutet konkret:

• Dateisuche und Code Exploration laufen gleichzeitig statt nacheinander
• Recherche Aufgaben werden auf mehrere Agenten verteilt
• Längere Coding Sessions bleiben produktiv, weil Nebenaufgaben den Hauptkontext nicht überfrachten
• Modelle wie MiniMax M2.5, GLM-5 und Kimi K2.5 triggern Subagenten automatisch, wenn die Aufgabe davon profitiert

Die Websuche ist direkt in Ollamas Anthropic Kompatibilitätsschicht integriert. Wenn ein Modell aktuelle Informationen benötigt, etwa Dokumentation zu einem neuen Framework oder aktuelle Sicherheitshinweise, sucht Ollama automatisch und liefert die Ergebnisse. Subagenten können die Websuche parallel nutzen, um mehrere Themen gleichzeitig zu recherchieren.

Ein Beispiel Prompt zeigt die Power:

Ein einziger Prompt erzeugt drei parallele Workflows: Jeder Agent recherchiert per Websuche die Preise eines Wettbewerbers, vergleicht die Ergebnisse mit der eigenen Preisstruktur und erarbeitet gemeinsam Empfehlungen, alles gleichzeitig.

Vibe Coding – die KI-gestützte Entwicklung, bei der Entwickler Ergebnisse in natürlicher Sprache beschreiben und die KI den Code generiert – profitiert enorm von lokalen Modellen. Ollama ist dabei der lokale Motor, der die Brücke zwischen Datenschutz und Produktivität schlägt.

Die Vorteile von Ollama im Vibe Coding Workflow:

• Datenschutz: Code, Prompts und sensible Projektdaten verlassen nie den eigenen Rechner. Für Teams, die mit Kundendaten oder proprietärem Code arbeiten, ist das unverzichtbar.
• Offline Fähigkeit: Kein Internet? Kein Problem. Lokale Modelle laufen auch im Flugzeug, im Serverraum ohne Netzanbindung oder bei Cloud Ausfällen.
• Keine laufenden Kosten: Anders als API basierte Dienste mit Abrechnung pro Token ist Ollama kostenlos. Die einzige Investition ist die Hardware.
• Latenz: Lokale Inferenz liefert Antworten ohne Netzwerk Roundtrip, spürbar schneller für den Flow State beim Programmieren.

In der Praxis lässt sich Ollama nahtlos in gängige IDEs integrieren. Die beliebtesten Setups für Vibe Coder 2026:

• VS Code + Continue Extension – die populärste Kombination für agentisches Coding mit lokalen Modellen
• Zed Editor – Open Source IDE mit nativer Ollama Integration und Write Ask Minimal Profilen
• Claude Code + Ollama – das neue Flaggschiff Setup mit Subagenten und Websuche, im Detail im Vergleich Cursor vs Claude Code
• Cline / Roo Code – autonome Coding Agenten, die Ollama als Backend nutzen

Nicht jedes Modell eignet sich für jeden Einsatzzweck. Ollamas Bibliothek umfasst über 150 Modelle, von kompakten 1B Parametern bis hin zu Schwergewichten mit 100B+. Entscheidend ist die Passung zwischen verfügbarer Hardware (vor allem VRAM), Modellgröße und Anwendungsfall.

Cloud Modelle mit Subagenten Support (für ollama launch claude):

• MiniMax M2.5:cloud – stark im agentischen Coding und bei komplexen Code Aufgaben. Triggert Subagenten nativ.
• GLM-5:cloud – 744B Parameter gesamt (40B aktiv), optimiert für Systems Engineering und große Codebasen.
• Kimi K2.5:cloud – herausragend bei Research und Reasoning. Ideal für Analyse und Recherche Aufgaben.

Lokale Modelle nach Hardware Budget:

• 8 GB VRAM: Qwen3 2507 (4B), Nemotron Nano v2, Llama 3.2 (3B) – ausreichend für Code Completion und einfache Chat Aufgaben
• 16 GB VRAM: DeepSeek Coder V2 (16B), CodeGemma (7B), Qwen 2.5 Coder – der Sweet Spot für die meisten Entwickler
• 24+ GB VRAM: Llama 3.1 (70B quantisiert), Mixtral 8x22B – für komplexe Aufgaben, die längere Kontextfenster brauchen

Tipp für den Einstieg: Mit ollama pull qwen2.5-coder bekommt man ein solides Code Modell, das auf den meisten modernen Laptops mit 16 GB RAM flüssig läuft. Wer Apple Silicon nutzt (M1/M2/M3/M4), profitiert von der Unified Memory Architecture: Ollama nutzt GPU und RAM gemeinsam, was deutlich größere Modelle ermöglicht als bei vergleichbaren Windows Laptops.

Ollama läuft nach der Installation auf den meisten Systemen als Hintergrunddienst und belegt dauerhaft Arbeitsspeicher und beim Modellladen auch GPU Ressourcen. Wer Ollama gezielt stoppen oder den Autostart abschalten möchte, geht je nach Betriebssystem unterschiedlich vor. Hier die drei wichtigsten Wege für 2026.

Ubuntu und andere Linux Distributionen mit systemd: Bei der offiziellen Linux Installation wird Ollama als systemd Service eingerichtet. Das ist der saubere Weg zum Stoppen und Deaktivieren:

Falls Ollama trotz systemctl stop noch über http://localhost:11434 erreichbar ist, läuft meist eine zweite Instanz im Hintergrund, oft ein manuell gestarteter ollama serve Prozess in einem anderen Terminal. Hier hilft pkill ollama oder gezielt kill mit der PID aus pgrep ollama.

macOS: Die Desktop App registriert sich im Menüleisten Bereich oben rechts. Über das Ollama Icon erreichst du den Menüpunkt Quit Ollama und beendest damit den Hintergrunddienst sauber. Für ein dauerhaftes Autostart Off klickst du im selben Menü Settings und deaktivierst Open Ollama at login.

Windows: Im System Tray rechts unten in der Taskleiste findest du das Ollama Symbol. Rechtsklick auf das Icon und Quit Ollama beendet den Dienst. Den Autostart entfernst du im Task Manager unter dem Tab Autostart, indem du den Ollama Eintrag deaktivierst.

Für den schnellen Check ob Ollama gerade lauscht, eignet sich auf jedem System ein simpler HTTP Request gegen den Default Port:

Wer Ollama dauerhaft als Production Inferenz Server betreiben will, etwa auf eigenen Servern in Deutschland, sollte den Service nicht stoppen sondern hinter Firewall und Reverse Proxy absichern. NCA übernimmt das im Rahmen der Vibe Coding Consulting Projekte und richtet auf Wunsch eine Self Hosted KI für Unternehmen ein. Default direkt über Ollama, bei Bedarf gehostete Inferenz über Partner Conversis.

Ollama lokal aufsetzen ist einfach. Ollama produktiv im Team betreiben mit Sicherheitskonfiguration, CI/CD-Integration und optimierter Hardware Auswahl erfordert Erfahrung. Genau hier unterstützt Never Code Alone als Technologie Partner.

Unsere Leistungen rund um lokale KI-Infrastruktur:

• Hardware Beratung: Welche GPU, wie viel RAM, Mac oder Linux? Wir finden das optimale Setup für euer Budget und eure Modell Anforderungen.
• DSGVO konforme KI-Architektur: Über die Self Hosted KI für Unternehmen mit Multi Tenant bleiben sensible Daten im eigenen Netz.
• Vibe Coding Workshops: Praxisnahes Training für Entwicklerteams, die Ollama, Claude Code und lokale Modelle im Alltag einsetzen wollen, ergänzt durch unser Vibe Coding Onboarding.
• Integration in bestehende Toolchains: Ollama als Backend für Cline, Continue, eigene Chatbots oder Automatisierungen mit n8n.

In NCA-Projekten sehen wir regelmäßig, dass der Sprung von der lokalen Ollama Installation zum stabilen Team Betrieb an Sicherheit, Routing und Hardware scheitert. Genau diese Themen decken wir ab: vom Vibe Coding Security Audit über die DSGVO-Beratung bis zur Frage, ob ein Hybrid Ansatz aus lokalen Modellen und Cloud sinnvoll ist. Ob Ollama für deinen Use Case die richtige Wahl ist, klären wir gemeinsam im Beratungsprojekt.

Zwei NCA Produkte laufen im Kern auf lokaler Inferenz. Ollama liefert das Modell, die Hardware steht im eigenen Netz, die Daten bleiben da, wo sie hingehören. Cloud ist eine Option, keine Voraussetzung.

NCA MCP Middleware bringt Unternehmensdaten aus ERP, Warenwirtschaft, Zeiterfassung und CRM als saubere Tools an die Agenten. Der Agent fragt nicht die Datenbank, sondern ein definiertes Tool und bekommt geprüfte Werte zurück. Als Modell reicht dafür ein lokales Qwen3 Coder oder Llama über Ollama. Betrieb wahlweise bei uns oder komplett in eurer eigenen Infrastruktur, ergänzt um Self Hosted KI mit Multi Tenant.

NCA PHP AI Guardrails ist die Antwort auf die zweite Hälfte des Problems. Ein lokales Modell schreibt Code, aber ohne Specs, Tests und Quality Gates passt dieser Code selten ins bestehende Projekt. Vier Guardrail Ebenen mit PHPStan, Rector und PHPUnit sorgen dafür, dass die Ausgabe eines lokalen Modells denselben Standard trifft wie handgeschriebener Code. Für die Einordnung, wann lokale Modelle wirtschaftlich sind, hilft der Beitrag zu lokaler KI als ROI Treiber.

Der Unterbau ist bei beiden Produkten derselbe: Ollama lokal, Modellauswahl nach vorhandener Hardware, Betrieb im eigenen Netz. Wo Berufsgeheimnis oder Auftragsverarbeitung im Spiel sind, lohnt vorher der Blick auf lokale KI für Compliance. Wer die Inferenz nicht selbst betreiben will, bekommt sie als Enterprise Option gehostet über unseren Duisburger Netzwerkpartner Conversis. Den Weg zum eigenen Setup zeigt die Seite zu KI Assistenten selbst hosten.

Die wichtigsten Fragen rund um Ollama, lokale KI-Modelle, Subagenten und den Einsatz im professionellen Entwicklungsalltag – kompakt beantwortet.