Was ist Model Inference in Symfony AI?

Model Inference bezeichnet in Symfony AI das Senden von Prompts an ein KI Modell und das Empfangen der Antwort über einen einzigen Methodenaufruf. Die Platform Component abstrahiert dabei die Unterschiede der Anbieter. Du sprichst OpenAI, Anthropic, Mistral, Google Gemini oder ein lokales Modell über dieselbe invoke Schnittstelle an, ohne deinen Anwendungscode zu ändern.

Das mentale Modell besteht aus drei Bausteinen: Du baust eine MessageBag aus Message Objekten, übergibst sie einer Platform über invoke und liest das Result mit einer der asText, asObject, asFile oder asStream Methoden aus. Diese drei Nomen lernst du einmal, danach funktioniert jeder Anbieter und jede Modalität gleich.

Der Vorteil liegt in der Entkopplung: KI Modelle ändern sich schneller als Bibliotheken, neue erscheinen fast täglich. Model Inference über die Platform trennt den Modell Lebenszyklus vom Anwendungscode. Never Code Alone setzt genau diese Abstraktion ein, um KI Features anbieterunabhängig in Symfony und Sulu CMS Projekte zu bringen, inklusive lokaler Modelle für den Datenschutz.

Never Code Alone entwickelt seit über 15 Jahren mit Symfony und betreibt die eigene Plattform auf Sulu CMS. Model Inference über die Platform Component ist für uns der zentrale Hebel, um KI Features ohne Vendor Lock In zu bauen. Auf derselben Schnittstelle setzt auch Structured Output auf, das typsichere PHP Objekte aus Modellantworten erzeugt.

Wir begleiten Teams beim Vibe Coding Consulting, beim Weg vom Prototyp zur Produktion und beim Absichern über CI/CD Pipelines mit PHPStan, Psalm und PHPUnit. Für sensible Daten setzen wir auf DSGVO konforme self hosted KI mit Ollama und europäischen Modellen wie Mistral.

Du erstellst eine Platform über eine Factory, baust eine MessageBag mit System und User Nachricht und rufst invoke mit Modellname und Nachrichten auf. Das Ergebnis liest du über asText als reinen Text aus. Genau dieses eine Beispiel zeigt bereits das komplette Prinzip.

Drei Bausteine reichen: MessageBag, Platform und Result. Die Platform ist eine dünne Abstraktion über die Anbieter APIs, jeder Aufruf läuft über dieselbe invoke Methode, unabhängig davon, welches Modell dahinter steckt. Das Result liefert je nach Bedarf Text, ein typsicheres Objekt, eine Datei oder einen Stream.

Der eigentliche Gewinn von Model Inference ist die Anbieterunabhängigkeit. Willst du von OpenAI zu Anthropic wechseln, tauschst du nur die Factory und den Modellnamen. Der restliche Code bleibt identisch, weil MessageBag, invoke und Result für jeden Anbieter gleich funktionieren.

Die Liste der unterstützten Plattformen ist lang: OpenAI, Anthropic, Google Gemini, Azure OpenAI, AWS Bedrock, Mistral, Ollama, ElevenLabs und jeder OpenAI kompatible Endpoint über die Generic Bridge. Über den models.dev Bridge bleibt der Modellkatalog aktuell, neue Modelle kommen per composer update dazu, ohne dass du Listen pflegst. Auf Platform Ebene lassen sich zudem Failover und Load Balancing einrichten.

Model Inference funktioniert nicht nur in der Cloud. Über die Ollama Bridge sprichst du lokale Modelle auf eigener Hardware an, mit demselben invoke Aufruf. Für DSGVO sensible Projekte ist das die naheliegende Wahl, weil keine Prompts den eigenen Server verlassen.

In der NCA Produktion setzen wir lokale Modelle über Ollama mit Qwen und Llama ein und kombinieren sie je nach Anforderung mit europäischen Anbietern wie Mistral. So bleiben Daten und Kosten im Haus. Die Platform Abstraktion erlaubt es, im Development lokal zu arbeiten und in Production bei Bedarf auf ein stärkeres Modell zu wechseln, ohne den Code anzufassen.

Dieselbe invoke Schnittstelle deckt deutlich mehr ab als reinen Text. Über Optionen und unterschiedliche Result Methoden erschließt du weitere Modalitäten:

• Streaming: Mit der Option stream und asStream gibst du Token für Token aus, wie in einem Chat Interface.
• Multi Modal: Bilder, PDFs oder Audio gibst du zusammen mit Text in die MessageBag, etwa für Bildbeschreibung oder Dokumentenanalyse.
• Speech: Text zu Sprache und Sprache zu Text laufen über dieselbe invoke Methode mit Anbietern wie ElevenLabs oder Whisper.
• Embeddings: Embedding Modelle liefern über asVector numerische Vektoren als Basis für semantische Suche und RAG.

Ein API, ein mentales Modell: Du lernst MessageBag, invoke und Result einmal und nutzt damit jede Fähigkeit der Modelle. Auf Structured Output baut die typsichere Variante auf, bei der das Result direkt ein PHP Objekt ist.

Im NCA Stack ist Symfony die Basis und Sulu CMS das produktive Content System. Die Platform landet als Service im Container, jeder invoke Aufruf ist über den Symfony Profiler nachvollziehbar und mit PHPUnit getestet. Für Integrationstests nutzen wir den Symfony KernelTestCase und mocken Modellantworten über den HttpClient MockResponse, sodass keine echten API Calls nötig sind.

So wird aus einem KI Feature getesteter Code, der in Production zuverlässig läuft. Wir beraten Teams beim Einbau im Rahmen unseres Vibe Coding Consultings, beim 1 zu 1 Mentoring und beim Onboarding ins Team. Wer ein festgefahrenes KI Projekt hat, findet Hilfe beim Vibe Coding Projekt retten.

In Beratungsprojekten sehen wir oft denselben Fehler: Eine Anwendung wird fest gegen die API eines einzigen Anbieters verdrahtet. Sobald sich Preise, Verfügbarkeit oder Datenschutzanforderungen ändern, wird der Wechsel teuer. Model Inference über die Platform löst das, weil der Anbieter zu einem austauschbaren Detail wird statt zu einer Architekturentscheidung.

Unser Ansatz: KI Feature anbieterunabhängig bauen, lokal mit Ollama entwickeln und mit deterministischen Werkzeugen absichern. PHPStan und Psalm prüfen die Typen, PHPUnit hält das Verhalten fest, eingebettet in eine CI/CD Pipeline. Wer Symfony AI weiter erkunden will, findet im Structured Output Eintrag, beim Symfony AI Mate und im Neuron AI Vergleich weitere Bausteine.

Die wichtigsten Fragen rund um Model Inference, die Platform Component und den anbieterunabhängigen Einsatz von KI Modellen im Symfony und Sulu CMS Stack im Überblick.