Soofi S ist ein offenes KI Sprachmodell aus Deutschland mit 31,6 Milliarden Parametern, von denen pro Token nur 3,2 Milliarden aktiv sind. Es wurde vom Soofi Konsortium unter Koordination des KI Bundesverbands entwickelt und komplett auf der Industrial AI Cloud der Deutschen Telekom in München trainiert.

Soofi steht für Sovereign Open Source Foundation Models. Das Projekt wird vom Bundesministerium für Wirtschaft und Energie im Rahmen der europäischen IPCEI-CIS Initiative gefördert. Beteiligt sind Fraunhofer IAIS und IIS, das DFKI, die TU Darmstadt, die Universität Würzburg, das L3S Research Center, die Berliner Hochschule für Technik sowie die KI Unternehmen ellamind und Merantix Momentum.

Soofi S ist der erste Baustein einer geplanten Modellfamilie. Das größere Modell Soofi L ist bereits im Training. Wichtig für die Praxis: Das Modell steht aktuell in einer Closed Beta, die endgültige Lizenz ist noch nicht veröffentlicht. Wer heute produktiv lokal arbeitet, bleibt bei bewährten Modellen wie Qwen3 Coder über Ollama.

Never Code Alone arbeitet täglich mit lokalen KI Modellen. Unser Stack läuft mit Ollama, Qwen3 Coder und Llama auf eigenen Servern in Deutschland. Wir kennen die Fragen, die bei souveräner KI wirklich zählen: Wie viel VRAM braucht das Modell, wie stabil ist das Tool Calling, wie sauber sind die Lizenzbedingungen und was passiert, wenn ein Benchmark schöner aussieht als der Alltag. Roland Golla ist der Gründer von Never Code Alone in Duisburg. Sein Thema: Die KI schreibt den Code, er sorgt für die Qualität.

Passend dazu unterstützen wir mit Vibe Coding Consulting, richten mit dir KI Assistenten zum Selbst Hosten ein und bauen Self Hosted KI für Unternehmen auf. Wir prüfen KI generierten Code im Codebase Audit, sichern Projekte im Vibe Coding Security Audit und klären Datenschutzfragen in der DSGVO Beratung für Vibe Coding. Für den Einstieg ins Team gibt es unser Vibe Coding Onboarding.

Der Trainingslauf fand zwischen März und Mai 2026 statt. Genutzt wurden bis zu 512 NVIDIA B200 GPUs in der Industrial AI Cloud der Deutschen Telekom in München. Insgesamt flossen rund 253.000 GPU Stunden in das Modell. Laut Report läuft die Anlage vollständig mit erneuerbarer Energie, wird mit Wasser aus dem Eisbach Kanal gekühlt und speist ihre Abwärme in das umliegende Tucherpark Viertel ein.

Das ist der eigentliche Punkt an Soofi S. Ein deutsches Modell in dieser Größenordnung wurde bisher meist auf US Infrastruktur gerechnet. Hier bleibt die komplette Kette im Land. Wer bei der Modellwahl auf europäische Souveränität achtet, findet in unserem Guide welches KI Modell ohne US Anbieter die passende Entscheidungshilfe.

Die Architektur selbst kommt allerdings nicht aus Deutschland. Das Konsortium übernimmt unverändert das Referenzdesign von NVIDIA Nemotron, konkret die Nemotron 3 Nano Variante. Neu sind die Gewichte, der Datenmix und das Trainingsrezept. Diese ehrliche Trennung steht so auch im Tech Report.

Soofi S ist ein Mixture of Experts Modell. Von 31,6 Milliarden Parametern arbeiten pro erzeugtem Token nur rund 3,2 Milliarden. Die Rechenkosten liegen damit näher an einem 3B Modell als an einem klassischen 30B Modell. Das Kürzel 30B-A3B steht genau dafür.

Spannender ist das Speicherverhalten. In klassischen Transformern wächst der KV Cache linear mit der Kontextlänge. Bei langen Eingaben und vielen parallelen Anfragen wird das zum Flaschenhals. Soofi S hat 52 Layer, aber nur 6 davon unterhalten überhaupt einen solchen Cache. Der Rest sind Mamba 2 Layer.

• 31,6 Milliarden Parameter gesamt, 3,2 Milliarden aktiv pro Token
• 52 Layer, davon nur 6 mit KV Cache
• Hybrid aus Mamba 2 und Attention nach Nemotron 3 Nano Referenzdesign
• Kontextfenster bis 1 Million Token im dritten Trainingsabschnitt erweitert

Der gemessene Effekt: Bei 40.000 Token Kontext und 32 parallelen Anfragen erzeugt Soofi S pro GPU rund achtmal mehr Token pro Sekunde als dichte Modelle im Bereich 14 bis 24 Milliarden Parameter. Von 4.000 bis 256.000 Token bleibt der Durchsatz nahezu konstant. Ähnlich verhält sich nur Qwen3.6 35B A3B, das ebenfalls hybrid gebaut ist.

Insgesamt hat das Konsortium rund 27 Billionen Token verarbeitet, aufgeteilt in drei Phasen. Erst rund 20 Billionen Token aus einer breiten Mischung von Web, Code, Mathematik und Fachtexten. Dann rund 6 Billionen Token aus besonders hochwertigen Quellen. Zum Schluss eine kürzere Phase mit sehr langen Dokumenten für das Kontextfenster.

Der deutsche Anteil steigt dabei von 7,2 Prozent in Phase eins auf 15,3 Prozent in Phase zwei. Zum Vergleich: Im Nemotron Referenzrezept entfallen auf alle nicht englischen Sprachen zusammen nur rund 5 Prozent. Das ist der Unterschied, der Soofi S auf deutschen Benchmarks nach vorne bringt.

Als Quellen kombiniert das Team deutsche Webtexte aus HPLT, das offen lizenzierte Korpus German Commons, deutsche Anteile aus FinePDFs und FineWiki sowie den kommerziell lizenzierten Genios Korpus mit 193 Millionen Zeitungsartikeln aus 916 deutschen Publikationen. Dazu kommen maschinell übersetzte und synthetisch erzeugte deutsche Texte.

In der Evaluation gegen 16 andere offene Modelle liegt Soofi S laut Report bei den Aggregatwerten für Deutsch und Englisch vor allen vollständig offenen Modellen. Dazu zählen Olmo 3 32B vom Allen Institute for AI und Apertus 70B von ETH und EPFL. Auf den deutschen Benchmarks der Suite setzt sich Soofi S durchgehend durch, teils mit zweistelligen Punktabständen.

Für Entwicklerteams zählen vor allem die Code Werte:

• HumanEval: 73,8 Prozent
• MBPP: 70,2 Prozent
• MBPP-DE: 84,2 Prozent, bester Wert im Open Source Vergleich
• INCLUDE-DE für deutsches Regionalwissen: 61,2 Punkte, geteilter erster Platz mit Qwen3.5 35B-A3B

Ehrlich bleiben gehört dazu. Bei deutscher Wettbewerbsmathematik fällt Soofi S mit 56 Punkten auf Minerva MATH-DE deutlich hinter Qwen3.5 35B-A3B mit 76,5 und Gemma 3 27B mit 65,6 zurück. Auch bei offener Faktenabfrage schwächelt das Modell. Das liegt an den nur 3 Milliarden aktiven Parametern, in denen sich weniger Weltwissen speichern lässt.

Eine dritte Schwäche zeigt der Long Context Test RULER. Bei einer Aufgabe, in der häufige Wörter aus einem langen Text extrahiert werden sollen, bricht die Trefferrate jenseits von 32.000 Token auf rund 3 Prozent ein. Das vergleichbare Nemotron Modell liegt dort bei 60 bis 64 Prozent. Bei den übrigen zwölf RULER Aufgaben sind beide gleichauf. Wer viel mit langen Kontexten arbeitet, sollte das im Blick behalten und den Vergleich mit MiniMax M3 und GLM 5.2 ziehen.

Das Konsortium veröffentlicht neben den Gewichten auch ausgewählte Zwischencheckpoints, den vollständigen Trainings und Evaluationscode sowie eine detaillierte Datenauflistung. Pro Quelle stehen Rohtokenzahl, Epochenanzahl und effektiver Beitrag drin. Auch Quellen, die geprüft und dann verworfen wurden, sind dokumentiert. Damit erfüllt Soofi S nach eigener Angabe die Open Source AI Definition 1.0 der Open Source Initiative.

Genau diese Offenheit hat einen Fehler sichtbar gemacht. Die Community fand in den offengelegten Trainingsdaten Prüfungsfragen des Wissenschafts Benchmarks GPQA. Ursache war eine Eigenheit von GPQA auf Hugging Face: Der Benchmark hat kein separates Trainings Set, sein gesamtes Prüfungsmaterial liegt unter der Bezeichnung train. Die Datenpipeline wählte nach Split Namen aus und zog das Prüfungsset in die Übungsaufgaben.

Die Reaktion war sauber. Das Konsortium hat GPQA komplett aus der Wertung gestrichen und die Gesamtergebnisse für alle 16 verglichenen Modelle neu berechnet. An der Rangfolge ändert sich laut Autoren nichts. Rund 152.000 Einzelergebnisse stehen zur Überprüfung bereit. Der Konsortialpartner ellamind hat mit bewusst zurückgehaltenen Testdaten nachgeprüft und die Resultate bestätigt. Künftig gleicht das Team seine Trainingsdaten automatisch mit allen Testfragen ab.

Für uns ist das der eigentliche Wert offener Modelle. Bei geschlossenen Modellen wäre dieser Fehler nie aufgefallen. Wer Benchmarks kritisch lesen will, findet in unserem Kostenvergleich der KI Anbieter weitere Einordnung.

Hier wird es unbequem. Soofi S ist heute keine Option für Production. Das Modell steht in einer Closed Beta, der Zugriff ist bewusst eingeschränkt. Das Entwicklerteam nimmt Feedback aus der Open Source Community erst nach Abschluss der Testphase entgegen.

• Zugang: Repository auf Hugging Face gelistet, Zugriff nur nach Zustimmung zu Bedingungen und Angabe von Kontaktdaten
• Modellkarte: Weights als Preview beziehungsweise internen Checkpoint markiert, Dateien und Metadaten können sich ändern
• Lizenz: noch nicht final, der Volltext der geplanten Custom Lizenz fehlt bislang
• API: keine öffentliche API, kein offizieller Ollama Support
• Varianten: Instruct und Reasoning Modelle im Betatest, permissive Lizenz angekündigt

Ein Detail für die Lizenzprüfung: Der kommerziell lizenzierte Genios Anteil macht 1,3 Prozent des Trainingsmixes aus. Rund 99 Prozent lassen sich laut Report unabhängig rekonstruieren. Eine strengere europäische Open Data Definition, die freie Weitergabe jedes einzelnen Trainingstokens verlangt, erreicht Soofi S damit nicht.

Unsere Empfehlung ist klar: beobachten, testen wenn der Zugang offen ist, aber produktiv weiter auf verfügbare Modelle setzen. Welche das sind, zeigt unsere Übersicht der besten Coder Modelle für lokale Nutzung.

Souveränität ist kein Schalter, sondern eine Leiter. Die meisten Teams stehen auf Stufe eins oder zwei und wissen das gar nicht. Die folgende Übersicht hilft bei der ehrlichen Selbsteinschätzung. Sie zeigt auch, warum Soofi S so viel Aufmerksamkeit bekommt: Das Projekt zielt auf die oberste Stufe.

Soofi S positioniert sich zwischen zwei Lagern. Auf der einen Seite stehen breit multilinguale europäische Souveränitätsprojekte wie EuroLLM oder Teuken, die viele Sprachen abdecken und dafür Tiefe opfern. Auf der anderen Seite die leistungsstärksten internationalen Open Weight Modelle. Soofi S geht bewusst in die Tiefe statt in die Breite: zwei Sprachen, dafür richtig.

Gegen Qwen: Qwen3 Coder Next ist heute verfügbar, läuft über Ollama, hat eine klare Lizenz und ein erprobtes Tool Calling. Soofi S schlägt Qwen bei deutschem Regionalwissen, verliert bei Mathematik. In der Praxis gewinnt das Modell, das du heute starten kannst.

Gegen Mistral: Mistral ist die europäische Option mit fertigem Produkt, API und Terminal Agent. Soofi S ist Forschungsprojekt mit Industrieanspruch. Andere Reifegrade, andere Fragen.

Gegen China: Chinesische Modelle wie Kimi K3, GLM 5 oder DeepSeek liefern mehr Rohleistung pro Euro. Wir dokumentieren sie, empfehlen sie aber nicht für Production, sobald sensible Daten im Spiel sind. Soofi S beantwortet genau diese Compliance Frage.

Drei Signale entscheiden, ob sich das Warten lohnt. Erstens die Lizenz. Solange der Volltext fehlt, ist jede Planung Spekulation. Zweitens die Instruct und Reasoning Varianten. Ein Basismodell ohne Nachtraining ist für Agenten und Tool Calling nicht brauchbar. Drittens der Zugang. Aus einer Closed Beta wird kein Produktivbetrieb.

Für wen es sich lohnt, jetzt schon hinzuschauen: Teams, die viele deutsche Fachdokumente verarbeiten. Behörden und Mittelstand mit klaren Souveränitätsvorgaben. Industrieunternehmen, die technische Dokumentation, Code Generierung und agentische Systeme auf eigener Hardware betreiben wollen. Genau dafür sucht das Konsortium aktuell Partner.

Bis dahin gilt: Der Weg zu souveräner KI führt über den eigenen Stack, nicht über ein einzelnes Modell. Wer heute KI Assistenten selbst hostet, kann Soofi S später einfach einhängen. Wichtig ist dabei die Frage, welche lokalen Modelle Tool Calling und MCP sauber beherrschen.

Wir betreiben unsere KI Inferenz auf eigenen Servern in Deutschland. Ollama mit Qwen3 Coder und Llama, dazu Ollama Cloud für Lastspitzen. Das ist keine Theorie, sondern der Stack, mit dem wir täglich Code schreiben, testen und ausliefern. Für Enterprise Anforderungen mit gehosteter DSGVO konformer Inferenz arbeiten wir mit unserem Infrastrukturpartner Conversis aus Duisburg zusammen.

Was Teams bei uns typischerweise brauchen: eine ehrliche Bewertung, ob ein Modell die eigene Aufgabe wirklich löst, ein sauberes Setup für lokale Inferenz und Guardrails, damit KI generierter Code nicht zum Risiko wird. Genau dafür gibt es unser NCA Vibe Coding Consulting, das 1:1 Mentoring für Vibe Coder und den Weg vom KI Prototyp zur produktionsreifen Software.

Für den Überblick über die Werkzeugkiste lohnt der Blick auf unsere Top 10 Vibe Coding Tools, auf Claude Code und OpenCode als Agenten sowie auf die komplette Übersicht der Vibe Coding Modelle. Wenn Rechenleistung der Engpass ist, ist Cerebras eine Option, die wir einordnen können.

Die wichtigsten Fragen zum souveränen KI Modell aus Deutschland, kompakt beantwortet.