Was ist LangChain?

LangChain ist ein Open Source Framework für die Entwicklung von Anwendungen mit Large Language Models. Es bietet standardisierte Schnittstellen zu Modellen, Vector Stores, Tools und APIs, die sich zu mehrschrittigen Pipelines, Agents und RAG Systemen kombinieren lassen. Das Projekt zählt über 100.000 GitHub Stars und gilt als das am weitesten verbreitete Framework für LLM Anwendungen.

LangChain wurde von Harrison Chase gegründet und im Oktober 2025 mit Version 1.0 stabilisiert. Heute ist das Framework Teil einer ganzen Suite: LangGraph übernimmt graphbasierte Agent Orchestrierung mit Persistierung, LangSmith liefert Tracing, Evaluation und Observability, LangSmith Deployment betreibt langlaufende Agents in Production. Über 1000 Integrationen verbinden das Framework mit nahezu jedem LLM Provider, Vector Store und externen API.

Das Herzstück von LangChain Version 1 ist die LangChain Expression Language LCEL. Statt Klassen wie LLMChain oder SequentialChain zu instanziieren, schreiben Entwickler ihre Pipelines als Pipe Syntax: prompt | llm | parser. Dieser Stil unterstützt automatisch Streaming, Async, Batching und LangSmith Tracing ohne Boilerplate. Die alten Chain Klassen sind in v1.x deprecated.

NCA berät Teams seit Jahren beim Aufbau lokaler, DSGVO konformer KI Stacks. Wir setzen täglich auf Ollama mit Qwen und Llama für lokale Inferenz, kennen die führenden Agent Frameworks aus Beratungsprojekten und Recherche und haben eine klare Open Source DNA. Unsere Server stehen in Duisburg, nicht in Virginia, und wir bauen Vibe Coding Consulting Lösungen so, dass Kundendaten das eigene Rechenzentrum nie verlassen.

Bei LangChain helfen wir Teams beim Einordnen: Wann lohnt sich LCEL für eine Pipeline, wann besser LangGraph für komplexe Agents, wann reicht das passendere LlamaIndex für reine Dokumenten Pipelines. Für lokale Setups mit Open WebUI und multilingual-e5-large ordnen wir die Architektur sauber ein. PHP Teams binden den Stack über Symfony AI Mate oder den Web MCP Layer ein. Begleitend bieten wir Vibe Coding Best Practices Workshops für interne Teams.

LangChain strukturiert eine LLM Anwendung in vier klar abgegrenzte Phasen. Wer das Modell verstanden hat, kann jede beliebige Aufgabe vom einfachen Chat Prompt bis zum autonomen Agent in produktionsfähige Architektur übersetzen.

Phase 1: Prompt. Prompt Templates kapseln die Anweisung an das LLM und nehmen variable Eingaben über benannte Platzhalter entgegen. Sie machen Prompts wiederverwendbar, testbar und versionierbar. Modellspezifische Eigenheiten wie Anthropic XML Tags oder OpenAI System Roles werden über das einheitliche Chat Model Interface gekapselt, sodass Anbieter mit einem Zeilen Wechsel austauschbar sind.

Phase 2: Chain. Über die LCEL Pipe Syntax werden Prompt, Modell und Output Parser zu einer ausführbaren Pipeline verbunden. LCEL bringt Streaming, Async und Batching von Haus aus mit und liefert in Kombination mit LangSmith volle Observability. Komplexere Chains kombinieren Retrieval aus Vector Stores, mehrere Modelle in Sequenz und Branching Logic über RunnableBranch und RunnableLambda.

Phase 3: Agent. Wenn die Pipeline nicht linear vorgegeben werden kann, übernehmen Agents. Die create_agent API liefert ein erprobtes ReAct Pattern auf der LangGraph Runtime. Der Agent entscheidet zur Laufzeit, welches Tool aus dem Toolkit gerade gebraucht wird, ruft es auf, verarbeitet das Ergebnis und führt den Loop fort, bis die Aufgabe gelöst ist. Tools werden über den @tool Dekorator und Pydantic Schemas definiert.

Phase 4: Deploy. LangSmith Deployment betreibt LangChain und LangGraph Anwendungen mit Persistierung, Checkpointing, Streaming und Human in the Loop Support. Die Runtime ist auf langlaufende Agents ausgelegt, die asynchron mit Menschen und anderen Agents zusammenarbeiten. Wer auf eigener Infrastruktur deployen will, nutzt LangServe oder rollt die LangGraph Server Komponente in einem eigenen Container aus.

Der typische LangChain Tutorial Code beginnt mit einem OpenAI API Key. Für deutsche Kunden ist das in vielen Fällen keine Option. Ein DSGVO konformer Aufbau kommt ohne US Cloud Provider aus: Ollama als lokaler LLM Server, ein quelloffenes Embedding Modell wie multilingual-e5-large über HuggingFace und LangChain als Glue Layer dazwischen.

Die Installation geht über pip, das Setup ist mit wenigen Zeilen erledigt:

Eine minimale LCEL Pipeline mit Ollama, die einen Prompt entgegennimmt und eine strukturierte Antwort liefert, sieht so aus:

Diese Pipeline läuft komplett auf einem eigenen Server. Keine Tokens werden an OpenAI gesendet, keine Daten verlassen das Rechenzentrum. Über das standardisierte Chat Model Interface lässt sich der Provider durch eine einzige Zeile Änderung gegen Anthropic, Google oder einen anderen OpenAI kompatiblen Endpoint austauschen.

LangChain ist 2026 nicht mehr ein einzelnes Framework, sondern eine Suite aus drei Komponenten, die unterschiedliche Probleme im Lebenszyklus einer LLM Anwendung lösen.

LangChain ist die High Level Schicht für Chains, Prompts, Modelle und Retrieval. Wer schnell einen RAG Chatbot oder eine Pipeline aus Prompt plus LLM plus Parser bauen will, ist hier richtig. Die LCEL Pipe Syntax macht aus mehrschrittigen Pipelines eine kompakte, gut lesbare Definition.

LangGraph ist die Low Level Orchestrierungs Engine darunter. LangChain Agents laufen intern auf der LangGraph Runtime. Wer komplexe State Machines, deterministisches plus agentisches Verhalten in einem Workflow oder Multi Agent Szenarien braucht, schreibt direkt LangGraph Code. Die durable Runtime liefert Persistierung, Streaming, Rewind und Human in the Loop von Haus aus.

LangSmith deckt Observability und Evaluation ab. Tracing zeigt jeden Agent Schritt mit Input, Output und Latenz, Production Traces lassen sich in Test Cases verwandeln, Evaluator scoren Agent Verhalten automatisiert oder mit menschlichem Review. LangSmith funktioniert auch mit Frameworks außerhalb von LangChain über die SDK Integration.

Für die Production Phase ergänzt LangSmith Deployment einen Agent Server mit Memory, Conversational Threads und durable Checkpointing. Die Infrastruktur ist auf langlaufende, asynchron arbeitende Agents ausgelegt, die mit Menschen und anderen Agents kollaborieren.

Die beiden Frameworks dominieren die LLM App Landschaft, sind aber unterschiedlich geschnitten. Wer die Entscheidung früh richtig trifft, spart sich Refactorings im weiteren Projektverlauf.

LangChain ist generisch aufgestellt und positioniert sich als Orchestrierungs Framework für LLM Anwendungen jeder Art. Wer Agents mit komplexer Verzweigungslogik, Tool Calling, externen API Integrationen oder mehrschrittigen Pipelines mit Branching baut, findet hier die größere Werkzeugkiste. Die 1000+ Integrationen decken nahezu jeden LLM Provider, Vector Store und Tool Endpoint ab.

LlamaIndex ist auf eine Disziplin spezialisiert: hochwertige Dokumenten Pipelines. Wer große Mengen an PDFs, Office Dateien, technischer Dokumentation oder strukturierten Daten zugänglich machen will, findet hier ausgereifte Indexing Strategien, eine starke OCR Schicht über LlamaParse und durchdachte Query Engines mit Reranking.

In der Praxis schließen sich beide Frameworks nicht aus. Eine bewährte Architektur kombiniert LlamaIndex für Ingestion und Retrieval mit LangGraph für die agentenbasierte Entscheidungslogik darüber. Diese saubere Trennung von Datenschicht und Orchestrierung erleichtert Wartung und macht es einfacher, Komponenten später zu tauschen.

LangChain zeigt seine Stärken überall dort, wo eine LLM Anwendung über einen einzelnen Prompt hinausgeht. Vier Anwendungsfälle dominieren die Beratungsprojekte 2026.

Agentic Customer Support. Ein Agent erhält Zugriff auf Knowledge Base, CRM, Ticket System und interne APIs. Statt feste Antworten zu liefern, entscheidet er pro Anfrage, welche Tools er nutzt, eskaliert bei Unklarheit an den Menschen und protokolliert jede Entscheidung in LangSmith. C.H. Robinson hat nach eigenen Angaben über LangSmith täglich 5500 Bestellungen automatisiert und mehr als 600 Stunden pro Tag eingespart.

RAG Chatbots mit Branching Logic. Wenn der Bot je nach Frage unterschiedliche Datenquellen, Vector Stores oder Modell Konfigurationen ansprechen muss, bringt LCEL mit RunnableBranch das passende Konstrukt mit. Für die reine Dokumenten Indexierung lässt sich LlamaIndex sauber dahinter klemmen.

Workflow Automatisierung mit Tool Use. Vom Recherche Agent, der Web Suche, Datenbank und LLM kombiniert, bis zum Code Review Agent, der GitHub API, statische Analyse und LLM Bewertung sequenziell durchläuft. Der @tool Dekorator macht aus jeder Python Funktion ein für Agents nutzbares Tool, Pydantic Schemas validieren die Inputs.

Long Running Agents. LangSmith Deployment liefert die Runtime für Agents, die nicht nach einer Sekunde antworten, sondern Stunden oder Tage in einem Workflow stecken. Persistierung, Checkpointing und Human in the Loop sind eingebaut. Damit lassen sich klassische Knowledge Work Aufgaben wie Vertragsanalyse, Recherche oder Reporting durchgängig automatisieren.

Drei Muster entscheiden in Agent Projekten regelmäßig über Erfolg und Misserfolg, unabhängig vom gewählten Framework. Sie haben weniger mit dem Tool selbst zu tun als mit der Architektur drumherum.

Context Engineering ist die Hauptdisziplin. Harrison Chase sagt es selbst: Agents scheitern, weil sie nicht den richtigen Kontext sehen. Wer einen Agent baut, sollte sich vor allem fragen, welche Tools, Systemprompts und Zustandsinformationen das Modell zur Laufzeit wirklich braucht. Tracing über LangSmith ist dabei kein Nice to have, sondern die Grundlage jeder Verbesserung. Genau hier setzen Vibe Coding Best Practices Workshops mit konkreten Patterns an.

LCEL für linear, LangGraph für branching. Eine bewährte Faustregel: Solange die Pipeline linear ist und keine Schleifen braucht, reicht LCEL. Sobald Bedingungen, Loops oder mehrere Agents zusammenspielen, lohnt der Sprung zu LangGraph. Wer beides mischt, ohne sich der Grenzen bewusst zu sein, baut sich oft schwer wartbaren Code.

Eval Set vor Production. Ohne messbare Agent Qualität tappen Teams im Dunkeln. Sinnvoll ist es, ab dem ersten Prototyp ein kleines Eval Set mit echten Kundenfragen zu pflegen und nach jeder Änderung an Prompt, Tools oder Modellauswahl zu messen. So fällt eine vermeintlich kleine Anpassung nicht erst in Production auf.

NCA berät Teams beim Auswahlprozess: Wir helfen einzuordnen, ob LangChain mit LCEL und Agents zu den Anforderungen passt, ob ein Custom LangGraph für die Use Cases sinnvoller ist, oder ob das Projekt eher bei LlamaIndex für reines Document Retrieval besser aufgehoben wäre. Im Vibe Coding Consulting begleiten wir Architektur Entscheidungen und die Anbindung an bestehende Symfony Anwendungen über Symfony AI Mate.

Diese Fragen kommen in Beratungsterminen zu LangChain am häufigsten auf.