LLM Gateway Vergleich 2026: LiteLLM, Portkey, Bifrost und Envoy AI Gateway im Überblick, dazu Router wie RouteLLM. Einordnung von Never Code Alone.
Mehr erfahren
Ein Tag inhouse mit Benjamin Klein für Developer, Tester und Admins. Context Engineering, Harness, ADRs und zwei Hands on Blöcke mit KI Agenten in eurem Setup.
pip install mcp-contextforge-gateway
uvx --from mcp-contextforge-gateway mcpgateway --host 0.0.0.0 --port 4444
What should be simple often becomes a debugging nightmare. ContextForge solves that.
LLM Gateway Vergleich 2026: LiteLLM, Portkey, Bifrost und Envoy AI Gateway im Überblick, dazu Router wie RouteLLM. Einordnung von Never Code Alone.
Mehr erfahren
Roland Golla ist Entwickler aus Leidenschaft – seit über 20 Jahren. Er hat hunderte Projekte begleitet, von Legacy-Refactoring bis KI-Integration. Bei Vibe Coding verbindet er das Beste aus beiden Welten: Die Geschwindigkeit von KI-generiertem Code mit der Qualität professioneller Softwareentwicklung. Kein Bullshit, keine Agentur-Floskeln – direkte Hilfe von jemandem, der selbst täglich im Code steckt.
IBM ContextForge ist ein Open Source Gateway, Proxy und Registry für KI Agenten. Es bündelt MCP Server, A2A Agenten sowie REST und gRPC APIs hinter einem Endpunkt. Dazu kommen Anmeldung, Rechte, Rate Limits und Observability. Das Projekt steht unter der Apache 2.0 Lizenz, ist in Python gebaut und wird von einem IBM Team um Mihai Criveti entwickelt.
Ja, ContextForge ist Open Source unter der Apache 2.0 Lizenz. IBM hält keine Funktionen für eine bezahlte Version zurück und sammelt keine Telemetrie. Kosten entstehen durch den Betrieb, also Server, Datenbank und die Zeit für Updates. Wer verbindlichen Support braucht, kann bei IBM Elite Support mit SLAs dazu buchen.
Version 1.1 handelt moderne MCP Protokollversionen standardmäßig aus, darunter die Spezifikation 2026-07-28. Neu sind außerdem eine überarbeitete Web UI als eigene Anwendung, föderierte Completions, Pagination für große Kataloge und eine Erkennung doppelter Tool Namen über verbundene Gateways. Dazu kommt ein strengerer Schutz über Origin und Host Header.
Ja, für viele Teams schon. Klavis hat das Strata Repository archiviert, dort gibt es keine Fixes mehr. ContextForge bündelt ebenfalls viele MCP Server hinter einem Endpunkt und hält den Kontext mit virtuellen Servern und TOON Kompression klein. Eine Progressive Discovery in Stufen wie bei Strata bietet es aber nicht in derselben Form.
Der Support ist für ein Open Source Projekt ungewöhnlich stark. IBM bietet ab Version 1.0 Elite Support mit SLAs an, Sicherheitslücken bekommen CVE Nummern und eigene Bulletins. Einschränkung: Unterstützt wird nur das aktuelle Release, Backports gibt es nicht. Teams brauchen deshalb einen festen Update Prozess, etwa über Renovate in der Pipeline.
LiteLLM ist vor allem ein LLM Proxy für Modelle, Token Kosten und Budgets, mit einem MCP Gateway samt Tool Rechten. ContextForge setzt bei Tools und Agenten an. Es föderiert MCP, A2A, REST und gRPC und bringt Plugins für Guardrails mit. Beides lässt sich kombinieren, LiteLLM für Modelle und ContextForge für Tools.
Für einen Test reicht pip install mcp-contextforge-gateway oder ein Start über uvx auf Port 4444. Vorher setzt du Admin Zugang und JWT Secret über Umgebungsvariablen. Für Teams gibt es ein Container Image, Docker Compose mit PostgreSQL, Redis und Nginx sowie Helm Charts. Die Dokumentation beschreibt auch Deployments auf AWS, Azure, Google Cloud Run und OpenShift.
Ja. ContextForge arbeitet auch als Agent Gateway und leitet Anfragen zwischen Agenten über das A2A Protokoll weiter. Zusätzlich routet es OpenAI kompatible und Anthropic Agenten. So laufen Tool Aufrufe und Kommunikation zwischen Agenten über denselben Endpunkt, mit denselben Regeln für Anmeldung, Rate Limits und Logging. Das macht Audits deutlich einfacher.
Ja. ContextForge enthält einen Adapter, der REST Endpunkte als MCP Tools bereitstellt und das JSON Schema automatisch ausliest. gRPC Dienste übersetzt es per Server Reflection. Bestehende interne Dienste werden so für KI Agenten nutzbar, ohne eigenen MCP Code zu schreiben. Die Rechte steuerst du trotzdem zentral im Gateway.
Das hängt vom Betrieb ab. ContextForge läuft komplett Self Hosted, also auch auf Servern in Deutschland, und sendet laut IBM keine Telemetrie. Für personenbezogene Daten helfen PII Filter Plugins und Zugangsdaten aus HashiCorp Vault. Konform wird erst das gesamte Setup, inklusive der Modelle und MCP Server hinter dem Gateway.
Mit virtuellen Servern stellst du für jeden Agenten eine eigene Auswahl an Tools zusammen. Der Agent sieht nur, was er für seine Aufgabe braucht. TOON Kompression verkleinert zusätzlich Schemas und Beschreibungen, bevor sie ins Kontextfenster gehen. Das spart Tokens und senkt das Risiko, dass ein Modell das falsche Tool wählt.
ContextForge lohnt sich für Teams mit vielen MCP Servern, mehreren Abteilungen und klaren Compliance Vorgaben. Dort zahlen sich zentrale Rechte, Audit und Token Verwaltung aus. Für einzelne Developer mit wenigen MCP Servern im Editor ist der Betrieb zu aufwendig. Hier reicht meist eine direkte Verbindung oder ein schlanker Proxy.