KI Schulung für Mitarbeiter ohne Vorkenntnisse: ein Tag inhouse mit Live Demo und Live Coding, am Ende steht ein eigenes Tool für eure Abteilung
Mehr erfahren
Ollama ist eine Open Source Plattform, mit der Entwickler große Sprachmodelle (LLMs) lokal auf dem eigenen Rechner ausführen können, ohne API Schlüssel und ohne Daten an Dritte zu senden. Seit dem Launch 2023 ist Ollama ein weit verbreiteter lokaler LLM Runner mit einer großen Modellbibliothek. Daneben gibt es Cloud Modelle.
Der Kern von Ollama ist einfach: Ein einziger Befehl wie ollama run llama3.2 lädt ein KI-Modell herunter und startet eine interaktive Chat Session im Terminal. Seit Februar 2026 gibt es Subagenten für parallele Aufgabenausführung und eine integrierte Websuche, die ohne MCP Server oder zusätzliche Konfiguration funktioniert.
Für Unternehmen in der EU ist Ollama besonders relevant: Wer KI-Modelle lokal betreibt, behält die volle Kontrolle über sensible Daten, ein entscheidender Vorteil in Zeiten von DSGVO und Compliance und wachsenden Anforderungen. Gleichzeitig entfallen laufende API Kosten, was Ollama für Teams jeder Größe attraktiv macht.
Ein Tag inhouse mit Benjamin Klein für Developer, Tester und Admins. Context Engineering, Harness, ADRs und zwei Hands on Blöcke mit KI Agenten in eurem Setup.
Bei Never Code Alone läuft Ollama nicht nur im Testlabor, sondern täglich im eigenen Stack: lokale Modelle wie Qwen und Llama betreiben wir produktiv für KI-gestütztes Content Marketing und Vibe Coding. Aus dieser Praxis kennen wir die Stolpersteine beim Wechsel von der Cloud auf eine eigene, DSGVO konforme KI-Infrastruktur.
Zwei eigene Produkte setzen direkt auf dieser lokalen Inferenz auf. Die NCA MCP Middleware macht Unternehmensdaten aus ERP, Warenwirtschaft, Zeiterfassung und CRM als geprüfte Tools für Agenten nutzbar, das Modell dahinter läuft über Ollama im eigenen Netz. Die NCA PHP AI Guardrails sichern ab, dass der Code aus einem lokalen Modell mit Specs, Tests und Quality Gates ins bestehende Projekt passt.
Teams begleiten wir vom ersten Prototyp bis in die Production. Wir übernehmen die Beratung zum Selbsthosten von KI-Assistenten, planen eine Self Hosted KI-Architektur für Unternehmen mit Multi Tenant und sorgen mit unserer Vibe Coding Datenschutz und DSGVO-Beratung dafür, dass sensible Daten das Firmennetz nie verlassen. Wer Ollama neu ins Team bringt, findet im Vibe Coding Onboarding den passenden Einstieg, während unser Vibe Coding Consulting die Gesamtstrategie liefert und ein Codebase Audit für KI generierten Code die Qualität absichert.
Start building with open models.
KI Schulung für Mitarbeiter ohne Vorkenntnisse: ein Tag inhouse mit Live Demo und Live Coding, am Ende steht ein eigenes Tool für eure Abteilung
Mehr erfahrenDer frühere Cloud Tag von DeepSeek V4 Flash wurde bei Ollama am 25. September 2026 abgeschaltet. Aktuell steht DeepSeek V4.1 Flash in der Ollama Cloud bereit.
Du kannst das Modell als Backbone für Coding Agents wie Claude Code, OpenClaw, den Hermes Agent oder OpenCode einsetzen.
# DeepSeek V4.1 Flash aus der Ollama Cloud starten
ollama run deepseek-v4.1-flash:cloud
# Als Backend für Coding Agents
ollama launch claude --model deepseek-v4.1-flash:cloud
Ein Flag entscheidet, welches Modell unter deinem Agenten arbeitet. Der Agent bleibt, das Backbone wird getauscht. Wichtig bleibt die Trennung: Cloud Tags laufen auf fremder Infrastruktur, nicht auf deiner Hardware. Die Einordnung mit Preisen und DSGVO Risiken steht in unserem Artikel zu DeepSeek für Entwickler. Für die produktive Einbindung in eigene KI Agents unterstützen wir Teams in der Vibe Coding Beratung mit Routing Logik und DSGVO konformem Aufbau.
OpenClaw integriert Ollama seit März 2026 als vollwertigen Model Provider mit nativem Tool Calling. Statt der OpenAI kompatiblen /v1 Schnittstelle nutzt OpenClaw direkt die native Ollama API (http://host:11434 ohne /v1 Suffix), nur so funktionieren Tool Calling und Streaming gleichzeitig stabil.
Schnellstart mit openclaw onboard:
ollama pull glm-4.7-flashopenclaw onboard und Ollama auswählenexport OLLAMA_API_KEY="ollama-local"OpenClaw erkennt lokal installierte Modelle automatisch und stellt sie als Provider bereit. Cloud Modelle wie kimi-k3:cloud oder glm-5.3:cloud können ergänzend eingebunden werden.
Die vollständige Konfigurationsreferenz, inklusive Remote Setup, expliziter Modell Definitionen und Legacy Modus, findet sich in der offiziellen OpenClaw Dokumentation für den Ollama Provider.
Ollama abstrahiert die Komplexität des lokalen LLM Betriebs in eine einzige CLI Anwendung. Im Hintergrund verwaltet die Plattform Modell Downloads, Quantisierung, GPU Zuweisung und die REST API, alles automatisch. Entwickler müssen sich nicht mit GGUF Dateien, CUDA Treibern oder Kontextfenster Konfiguration herumschlagen.
Die wichtigsten Befehle auf einen Blick:
Für das Scheduling verteilt Ollama Modelle auf die verfügbare Hardware. Wie groß ein Modell in deinem Setup werden darf, hängt vor allem am VRAM und am gewählten Kontextfenster.
Ollama updaten per CLI: Installer für Linux und macOS, winget für Windows, Docker Image neu ziehen und Fehler 412 beim Modell Pull beheben
Mehr erfahrenOllama unterstützt seit Februar 2026 Subagenten und Websuche direkt in Claude Code, ganz ohne MCP Server, API Keys oder Docker Compose Dateien. Ein einziger Befehl reicht:
ollama launch claude --model minimax-m3:cloud
Damit startet Claude Code mit dem MiniMax M3 Modell aus Ollamas Cloud, inklusive Subagenten und Websuche. Das Prinzip funktioniert mit weiteren Cloud Modellen in Ollamas Bibliothek.
Was können Subagenten? Subagenten arbeiten parallel an verschiedenen Aufgaben, jeder in seinem eigenen isolierten Kontext. Das bedeutet konkret:
Die Websuche ist direkt in Ollamas Anthropic Kompatibilitätsschicht integriert. Wenn ein Modell aktuelle Informationen benötigt, etwa Dokumentation zu einem neuen Framework, sucht Ollama und liefert die Ergebnisse. Subagenten können die Websuche parallel nutzen.
Ein Beispiel Prompt zeigt die Power:
# Drei parallele Recherche Agenten starten
> create 3 research agents to research how our top 3 competitors
price their API tiers, compare against our current pricing,
and draft recommendations
Ein einziger Prompt erzeugt drei parallele Workflows: Jeder Agent recherchiert per Websuche die Preise eines Wettbewerbers, vergleicht die Ergebnisse mit der eigenen Preisstruktur und erarbeitet gemeinsam Empfehlungen.
Vibe Coding – die KI-gestützte Entwicklung, bei der Entwickler Ergebnisse in natürlicher Sprache beschreiben und die KI den Code generiert – profitiert enorm von lokalen Modellen. Ollama ist dabei der lokale Motor, der die Brücke zwischen Datenschutz und Produktivität schlägt.
Die Vorteile von Ollama im Vibe Coding Workflow:
In der Praxis lässt sich Ollama nahtlos in gängige IDEs integrieren. Die beliebtesten Setups für Vibe Coder 2026:
Ollama läuft nach der Installation auf den meisten Systemen als Hintergrunddienst und belegt dauerhaft Arbeitsspeicher und beim Modellladen auch GPU Ressourcen. Wer Ollama gezielt stoppen oder den Autostart abschalten möchte, geht je nach Betriebssystem unterschiedlich vor. Hier die drei wichtigsten Wege für 2026.
Ubuntu und andere Linux Distributionen mit systemd: Bei der offiziellen Linux Installation wird Ollama als systemd Service eingerichtet. Das ist der saubere Weg zum Stoppen und Deaktivieren:
# Service sofort stoppen
sudo systemctl stop ollama.service
# Autostart beim Systemstart deaktivieren
sudo systemctl disable ollama.service
# Status prüfen, sollte inactive zeigen
sudo systemctl status ollama.service
Falls Ollama trotz systemctl stop noch über http://localhost:11434 erreichbar ist, läuft meist eine zweite Instanz im Hintergrund, oft ein manuell gestarteter ollama serve Prozess in einem anderen Terminal. Hier hilft pkill ollama oder gezielt kill mit der PID aus pgrep ollama.
macOS: Die Desktop App registriert sich im Menüleisten Bereich oben rechts. Über das Ollama Icon erreichst du den Menüpunkt Quit Ollama und beendest damit den Hintergrunddienst sauber. Für ein dauerhaftes Autostart Off klickst du im selben Menü Settings und deaktivierst Open Ollama at login.
Windows: Im System Tray rechts unten in der Taskleiste findest du das Ollama Symbol. Rechtsklick auf das Icon und Quit Ollama beendet den Dienst. Den Autostart entfernst du im Task Manager unter dem Tab Autostart, indem du den Ollama Eintrag deaktivierst.
Für den schnellen Check ob Ollama gerade lauscht, eignet sich auf jedem System ein simpler HTTP Request gegen den Default Port:
curl http://localhost:11434
# Antwort 'Ollama is running' bedeutet aktiv
# Connection refused bedeutet gestoppt
Wer Ollama dauerhaft als Production Inferenz Server betreiben will, etwa auf eigenen Servern in Deutschland, sollte den Service nicht stoppen sondern hinter Firewall und Reverse Proxy absichern. NCA übernimmt das im Rahmen der Vibe Coding Consulting Projekte und richtet auf Wunsch eine Self Hosted KI für Unternehmen ein. Default direkt über Ollama, bei Bedarf gehostete Inferenz über Partner Conversis.
Lokal bleibt Ollama kostenlos. Cloud Modelle kosten pro Token oder laufen über die Abos Pro, Max und Team mit Guthaben. Gehostet wird laut Ollama primär in den USA, bei Kapazitätsbedarf auch in Europa, ein Logging findet laut Anbieter nicht statt.
Prüfe deshalb je Projekt, welche Daten in ein Cloud Modell dürfen. Alles, was im eigenen Netz bleiben muss, gehört auf ein lokales Modell.
Je nach Projektanforderung, Teamgröße und Datenschutz Sensibilität kann Ollama eine Cloud API ersetzen oder sinnvoll ergänzen.
Die besten lokalen Coder Modelle 2026 im Vergleich, von Qwen über Devstral bis DeepSeek, mit Speicherbedarf, Stärken und passender Hardware für Ollama
Mehr erfahrenOllama lokal aufsetzen ist einfach. Ollama produktiv im Team betreiben mit Sicherheitskonfiguration, CI/CD-Integration und optimierter Hardware Auswahl erfordert Erfahrung. Genau hier unterstützt Never Code Alone als Technologie Partner.
Unsere Leistungen rund um lokale KI-Infrastruktur:
In NCA-Projekten sehen wir regelmäßig, dass der Sprung von der lokalen Ollama Installation zum stabilen Team Betrieb an Sicherheit, Routing und Hardware scheitert. Genau diese Themen decken wir ab: vom Vibe Coding Security Audit über die DSGVO-Beratung bis zur Frage, ob ein Hybrid Ansatz aus lokalen Modellen und Cloud sinnvoll ist. Ob Ollama für deinen Use Case die richtige Wahl ist, klären wir gemeinsam im Beratungsprojekt.
Zwei NCA Produkte laufen im Kern auf lokaler Inferenz. Ollama liefert das Modell, die Hardware steht im eigenen Netz, die Daten bleiben da, wo sie hingehören. Cloud ist eine Option, keine Voraussetzung.
NCA MCP Middleware bringt Unternehmensdaten aus ERP, Warenwirtschaft, Zeiterfassung und CRM als saubere Tools an die Agenten. Der Agent fragt nicht die Datenbank, sondern ein definiertes Tool und bekommt geprüfte Werte zurück. Als Modell reicht dafür ein lokales Qwen3 Coder oder Llama über Ollama. Betrieb wahlweise bei uns oder komplett in eurer eigenen Infrastruktur, ergänzt um Self Hosted KI mit Multi Tenant.
NCA PHP AI Guardrails ist die Antwort auf die zweite Hälfte des Problems. Ein lokales Modell schreibt Code, aber ohne Specs, Tests und Quality Gates passt dieser Code selten ins bestehende Projekt. Vier Guardrail Ebenen mit PHPStan, Rector und PHPUnit sorgen dafür, dass die Ausgabe eines lokalen Modells denselben Standard trifft wie handgeschriebener Code. Für die Einordnung, wann lokale Modelle wirtschaftlich sind, hilft der Beitrag zu lokaler KI als ROI Treiber.
Der Unterbau ist bei beiden Produkten derselbe: Ollama lokal, Modellauswahl nach vorhandener Hardware, Betrieb im eigenen Netz. Wo Berufsgeheimnis oder Auftragsverarbeitung im Spiel sind, lohnt vorher der Blick auf lokale KI für Compliance. Wer die Inferenz nicht selbst betreiben will, bekommt sie als Enterprise Option gehostet über unseren Duisburger Netzwerkpartner Conversis. Den Weg zum eigenen Setup zeigt die Seite zu KI Assistenten selbst hosten.
Roland Golla ist Entwickler aus Leidenschaft – seit über 20 Jahren. Er hat hunderte Projekte begleitet, von Legacy-Refactoring bis KI-Integration. Bei Vibe Coding verbindet er das Beste aus beiden Welten: Die Geschwindigkeit von KI-generiertem Code mit der Qualität professioneller Softwareentwicklung. Kein Bullshit, keine Agentur-Floskeln – direkte Hilfe von jemandem, der selbst täglich im Code steckt.
Die wichtigsten Fragen rund um Ollama, lokale KI-Modelle, Subagenten und den Einsatz im professionellen Entwicklungsalltag – kompakt beantwortet.
Ollama ist eine Open Source Plattform zum lokalen Ausführen großer Sprachmodelle. Entwickler nutzen Ollama 2026 für DSGVO konformes KI Coding, Offline Entwicklung und als lokales Backend für Tools wie Claude Code, Continue und Cline. Zusätzlich gibt es Cloud Modelle. Lokale Modelle brauchen keine Cloud Anbindung.
Die wichtigsten Neuerungen sind Subagenten für parallele Aufgabenausführung in Claude Code und eine integrierte Websuche ohne MCP Server, beide seit Februar 2026. Dazu kommt ollama launch, das Coding Agents direkt mit lokalen oder Cloud Modellen startet. Aktuell ist Version 0.40.12 vom 27. Oktober 2026.
Bei lokalen Modellen ja, das gilt nur für lokale Modelle: Alle Daten bleiben auf dem eigenen Rechner, Prompts und Code gehen nicht an externe Server. Cloud Modelle laufen auf fremder Infrastruktur, laut Ollama primär in den USA, bei Kapazitätsbedarf auch in Europa. Für sie prüfst du den Einsatz separat.
Für kleine Modelle reichen rund 8 GB RAM. Für produktives Vibe Coding empfehlen wir mehr Speicher und eine GPU. Qwen3 Coder 30B ist 19 GB groß und braucht eine 24 GB GPU. Apple Silicon Macs profitieren besonders, da Ollama Unified Memory nutzt und so größere Modelle möglich sind.
Subagenten sind parallele KI Instanzen, die jeweils in einem eigenen Kontext arbeiten. Modelle wie MiniMax M3 aus der Ollama Cloud starten sie teils selbst, sonst forderst du sie per Prompt an. So bearbeitest du mehrere Aufgaben gleichzeitig, etwa Code Analyse, Dateisuche und Recherche parallel statt nacheinander.
Lokal ist Ollama unbegrenzt kostenlos, die einzige Investition ist die Hardware. Cloud Modelle kosten pro Token oder laufen über die Abos Pro, Max und Team mit Guthaben. Aktuelle Konditionen stehen auf der Pricing Seite von Ollama.
Für Code Generierung empfiehlt sich Qwen3 Coder oder Qwen 2.5 Coder. Für allgemeine Chat Aufgaben ist Llama 3.2 ein guter Einstieg. Cloud Modelle wie MiniMax M3, GLM 5.3 oder Kimi K3 eignen sich für agentisches Coding mit Subagenten. Die lokale Modellwahl hängt primär vom verfügbaren VRAM ab.
Ja, über die Continue Extension für VS Code lässt sich Ollama als lokales KI Backend einbinden. Nach der Installation verbindet man Continue mit dem Ollama Endpoint auf localhost:11434 und erhält Code Completion, Chat und agentische Features direkt in der IDE.
Ollama ist CLI fokussiert und optimiert für Automatisierung und Servernutzung. LM Studio bietet eine grafische Oberfläche zum Herunterladen und Testen von Modellen. Für Vibe Coding mit IDEs eignen sich beide, wobei Ollama besonders bei Headless Betrieb und Scripting Vorteile hat.
Ollama von ollama.com herunterladen und installieren. Dann im Terminal ollama run llama3.2 eingeben, das Modell wird automatisch heruntergeladen und startet einen Chat. Für IDE Integration zusätzlich die Continue Extension in VS Code installieren und mit Ollama verbinden.
Ja, Ollama unterstützt multimodale Modelle. Modelle wie Llama 3.2 Vision, Gemma 3 und Qwen 2.5 VL können Bilder analysieren, Texte aus Dokumenten extrahieren und visuelle Aufgaben lösen, lokal und ohne Cloud.
Lokal bleiben alle Daten bei dir, das bietet von Haus aus ein hohes Sicherheitsniveau. Für den Produktiveinsatz empfiehlt sich zusätzlich: den API Zugang per Firewall einschränken, HTTPS für Remote Zugriffe konfigurieren und regelmäßige Updates einspielen. NCA berät zu sicheren Self Hosted Setups.
Für viele Anwendungsfälle ja, besonders bei Datenschutz Anforderungen, Offline Szenarien und kostensensibler Nutzung. Für Aufgaben, die Frontier Modellqualität erfordern, etwa komplexes Reasoning oder sehr lange Kontexte, bleiben Cloud Modelle aktuell überlegen. Ein Hybrid Ansatz ist oft die beste Lösung.
Ollama läuft auf Ubuntu als systemd Service. Mit sudo systemctl stop ollama.service beendest du den Dienst sofort. Mit sudo systemctl disable ollama.service verhinderst du zusätzlich den Autostart beim nächsten Neustart. sudo systemctl status ollama.service zeigt den aktuellen Status, inactive bedeutet erfolgreich gestoppt.
Der schnellste Test funktioniert auf jedem Betriebssystem mit curl http://localhost:11434. Eine Antwort Ollama is running bedeutet aktiv, Connection refused bedeutet gestoppt. Auf Linux liefert sudo systemctl status ollama.service zusätzliche Details, auf macOS und Windows reicht der Blick auf das Tray bzw. Menüleisten Icon.