Grüner Browser mit TOON Schriftzug und Rakete im isometrischen Tech Design

Was ist TOON?

TOON (Token Oriented Object Notation) ist ein textbasiertes Datenformat, das dieselben Daten wie JSON abbildet, dabei aber deutlich weniger Tokens verbraucht. Entwickelt wurde es speziell für LLM Prompts: Statt geschweifter Klammern, Anführungszeichen und wiederholter Schlüssel nutzt TOON eine kompakte, tabellarische Schreibweise mit Einrückung.

Der Erfinder Johann Schopplich stellte TOON im Oktober 2025 vor. Das Format kombiniert die Einrückung von YAML für verschachtelte Objekte mit dem tabellarischen Aufbau von CSV für gleichförmige Arrays. Über zahlreiche Sprachimplementierungen hinweg lässt sich JSON verlustfrei nach TOON und wieder zurück konvertieren.

Der praktische Nutzen ist konkret: Wer strukturierte Daten an ein Sprachmodell schickt, zahlt für jedes Zeichen Tokens. TOON senkt diesen Aufwand je nach Datenform um 30 bis 60 Prozent, reduziert damit Inferenzkosten und schafft mehr Platz im Context Window. Besonders gut funktioniert das mit lokalen Modellen über Ollama oder beim Serving über vLLM.

Inhalt

TOON mit NCA: Schnelle Hilfe vom Experten

Bei Never Code Alone arbeiten wir täglich mit Sprachmodellen, lokaler Inferenz über Ollama und LLM-gestützten Workflows in n8n. Wir wissen aus eigener Praxis, wo Tokenkosten entstehen und wie sich Prompts effizient strukturieren lassen. Mit über 15 Jahren Erfahrung in Softwarequalität und einer klaren Open Source DNA ordnen wir neue Formate wie TOON nüchtern ein, statt jedem Hype zu folgen.

Konkret unterstützen wir Teams beim Aufbau effizienter LLM Pipelines, die Tokenkosten spürbar senken: von der Auswahl des passenden Datenformats über die Vibe Coding Beratung bis zu erprobten Best Practices für KI-gestützte Entwicklung. Wir helfen beim Aufsetzen eines lokalen KI-Stacks mit Ollama, beim performanten Serving über vLLM und bei der Observability eurer Prompts mit Langfuse. So bleibt der Schritt vom Prototyp in die Produktion planbar.

Lass uns über euer LLM Projekt sprechen

Finde das passende Angebot für dein Projekt

🤖

Hey! Ich bin CodeBot. Lass uns herausfinden, wie wir dein Projekt zum Fliegen bringen.

Was soll entstehen?

Warum TOON: das Token Problem von JSON

JSON wurde für Menschen und klassische APIs entworfen, nicht für Sprachmodelle. Jedes geschweifte Klammerpaar, jedes Anführungszeichen und jedes Komma wird beim Senden an ein LLM zu eigenen Tokens. Bei vielen gleichförmigen Objekten kommt der entscheidende Kostentreiber dazu: Die Schlüsselnamen wiederholen sich in jeder einzelnen Zeile.

Ein Beispiel macht es greifbar. Eine Liste mit hundert Nutzern wiederholt in JSON die Schlüssel id, name und role hundertmal. TOON deklariert diese Felder genau einmal in einem Header und schreibt darunter nur noch die reinen Werte, Zeile für Zeile. Genau hier entstehen die Einsparungen von 30 bis 60 Prozent gegenüber formatiertem JSON.

Weniger Tokens bedeuten nicht nur geringere Kosten pro Anfrage. Sie verkürzen auch die Zeit bis zum ersten Token und lassen mehr Nutzdaten in dasselbe Context Window passen. Wer Daten für RAG Pipelines oder LangChain aufbereitet, profitiert bei großen Datenmengen direkt von der schlankeren Kodierung.

TOON Syntax am Beispiel

Am klarsten wird das Prinzip im direkten Vergleich. Dieselbe Nutzerliste sieht in klassischem JSON so aus:

Code:

          {
  "users": [
    { "id": 1, "name": "Alice", "role": "admin" },
    { "id": 2, "name": "Bob", "role": "user" }
  ]
}

Und kompakt in TOON, ohne geschweifte Klammern, ohne wiederholte Schlüssel:

Code:

          users[2]{id,name,role}:
  1,Alice,admin
  2,Bob,user

Die Kopfzeile users[2]{id,name,role}: deklariert ein Array mit zwei Objekten und den Feldern id, name und role. Die Zahl in eckigen Klammern gibt die Länge an, die geschweiften Klammern listen die Felder genau einmal auf. Darunter folgen nur noch die reinen Werte. Genau diese expliziten Längen und Feldlisten geben dem Modell einen klaren Bauplan und verbessern die Trefferquote beim Parsen.

TOON, JSON, CSV und YAML im Vergleich

Format	Token Effizienz	Beste Eignung
TOON	30 bis 60 Prozent weniger als JSON	Gleichförmige Arrays von Objekten
JSON	Referenz, eher verbose	APIs, Konfiguration, tiefe Verschachtelung
CSV	Sehr kompakt, ohne Struktur	Flache Tabellen ohne Verschachtelung
YAML	Kompakt bei Verschachtelung	Tief verschachtelte Objekte

Wann TOON sinnvoll ist und wann nicht

TOON ist kein universeller JSON Ersatz, sondern ein Spezialwerkzeug. Seinen größten Vorteil spielt es bei gleichförmigen Arrays von Objekten aus, also vielen Datensätzen mit identischer Struktur. Dort erreicht es die Kompaktheit von CSV und behält gleichzeitig eine klare, für Modelle gut lesbare Struktur.

Bei tief verschachtelten oder uneinheitlichen Daten kehrt sich der Vorteil um. Haben Array Elemente unterschiedliche Felder oder optionale Eigenschaften, bricht die Logik der einmaligen Feldliste zusammen. Für solche Strukturen ist klassisches JSON oft effizienter, für rein flache Tabellen bleibt CSV am kompaktesten.

Ehrlich bleiben gehört zur Bewertung dazu: TOON fügt durch Feld Header und Längenangaben einen kleinen Overhead von rund fünf Prozent hinzu. Dieser zahlt sich in besserer Parsing Genauigkeit aus, lohnt sich aber nicht bei jeder Datenform. In NCA Projekten gilt deshalb der Grundsatz, bei latenzkritischen Anwendungen mit lokalen oder quantisierten Modellen über llama.cpp erst zu messen und dann zu entscheiden. Manchmal ist kompaktes JSON trotz mehr Tokens schneller geparst.

TOON in der Praxis: Implementierungen und Workflow

TOON ist Open Source unter MIT Lizenz, die Referenzimplementierung liegt in TypeScript vor. Offizielle Implementierungen decken JavaScript, Python, Rust, Go, .NET und Dart ab, die Community hat darüber hinaus Pakete für PHP, Ruby, Java, Swift und viele weitere Sprachen beigesteuert. Für einen PHP und Symfony Stack mit Tools wie Symfony AI Mate bedeutet das, dass sich TOON ohne Bruch in bestehende Pipelines einbauen lässt.

Der Clou ist der minimale Eingriff: Am bestehenden Code ändert sich fast nichts. Nur der letzte Schritt vor dem LLM Call kommt hinzu, die Konvertierung von JSON nach TOON. In der TypeScript Variante genügt ein Aufruf von encode, um die Daten zu verpacken, decode führt verlustfrei zurück.

Code:

          import { encode, decode } from '@toon-format/toon'

const toon = encode(data)   // JSON nach TOON für den Prompt
const json = decode(toon)   // TOON nach JSON, verlustfrei

Eure Datenhaltung, eure APIs und eure Datenbank bleiben dabei unverändert. In agentischen Setups, etwa mit LangChain oder bei MCP Servern, zahlt sich TOON dort aus, wo strukturierte Listen wiederholt in den Kontext wandern. Bei stark verschachtelten Antworten lohnt der Benchmark vorab, weil der Gewinn dann kleiner ausfällt.

JSON is token-expensive for LLMs

Johann Schopplich, Erfinder von TOON – via X (26. Oktober 2025)

Lokale KI wirtschaftlich

Wann sich lokale KI wirtschaftlich rechnet: Edge Echtzeit, Offline, Mass Document Processing, CI/CD Bots, Kosten und Rate Limits 2026.

Mehr erfahren

NCA Erfahrung: TOON im Alltag von KI Projekten

In unseren eigenen KI-gestützten Content Pipelines und Automatisierungen über n8n schicken wir regelmäßig strukturierte Listen an Modelle. Genau dort, wo viele gleichartige Datensätze in den Prompt wandern, macht sich TOON sofort bemerkbar. Wir haben das Format getestet, eingeordnet und unsere Erkenntnisse ausführlich im NCA Blog dokumentiert.

Wer tiefer einsteigen will, findet im Beitrag TOON vs JSON: Token Kosten bei LLM Projekten senken konkrete Zahlen und Codebeispiele. Thematisch passen dazu unsere Einträge zu Langfuse für die Beobachtung von Prompts, zu Embedding Modellen für RAG und zur Hugging Face Plattform als Quelle offener Modelle.

Unsere Haltung ist klar: Wir empfehlen kein Format pauschal, sondern messen im konkreten Projekt. Ob sich TOON für eure Datenform lohnt, klären wir gemeinsam im Rahmen einer Vibe Coding Beratung oder beim Aufbau eines DSGVO konformen lokalen Stacks. So bleibt jede Entscheidung nachvollziehbar und auf euren Anwendungsfall zugeschnitten.

CYPRESS.IO Ambassador und IT Consultant für QA Engenieering und Qualität in PHP Projekten.

NCA Vibe Coding Consulting

Roland Golla ist Entwickler aus Leidenschaft – seit über 20 Jahren. Er hat hunderte Projekte begleitet, von Legacy-Refactoring bis KI-Integration. Bei Vibe Coding verbindet er das Beste aus beiden Welten: Die Geschwindigkeit von KI-generiertem Code mit der Qualität professioneller Softwareentwicklung. Kein Bullshit, keine Agentur-Floskeln – direkte Hilfe von jemandem, der selbst täglich im Code steckt.

E-Mail Kontakt

Häufige Fragen zu TOON

Die wichtigsten Fragen zum Token Oriented Object Notation Format kompakt beantwortet, von der Tokenersparnis bis zur Eignung für euer Projekt.

Was ist TOON 2026?

TOON steht für Token Oriented Object Notation, ein textbasiertes Datenformat für LLM Prompts. Es bildet dieselben Daten wie JSON ab, verbraucht aber deutlich weniger Tokens, indem es Schlüssel nur einmal in einem Header deklariert und Werte tabellarisch darunter schreibt. Entwickelt wurde es 2025 von Johann Schopplich und ist Open Source unter MIT Lizenz.

Wie viele Tokens spart TOON 2026?

Je nach Datenform spart TOON 30 bis 60 Prozent Tokens gegenüber formatiertem JSON. Den größten Effekt erzielen gleichförmige Arrays mit vielen identisch aufgebauten Objekten. Bei tief verschachtelten oder uneinheitlichen Daten fällt die Ersparnis kleiner aus. Ein kurzer Benchmark mit euren realen Daten zeigt den tatsächlichen Gewinn am verlässlichsten.

Ist TOON 2026 ein Ersatz für JSON?

Nein, TOON ersetzt JSON nicht überall. Für APIs, Konfigurationsdateien und den Datenaustausch zwischen Systemen bleibt JSON Standard. TOON ist ein Spezialwerkzeug für den Moment, in dem strukturierte Daten an ein Sprachmodell gehen. Viele Teams nutzen beides parallel: JSON für Interoperabilität, TOON für token sparsame Prompts.

Für welche Daten eignet sich TOON 2026 am besten?

TOON glänzt bei gleichförmigen Arrays von Objekten, also Listen mit vielen Datensätzen identischer Struktur wie Nutzer, Produkte oder Logeinträge. Dort kombiniert es CSV ähnliche Kompaktheit mit klarer Struktur. Bei tief verschachtelten Objekten ist JSON oft effizienter, bei rein flachen Tabellen bleibt CSV am kompaktesten.

Welche Programmiersprachen unterstützen TOON 2026?

Die Referenzimplementierung liegt in TypeScript vor. Offizielle Pakete decken JavaScript, Python, Rust, Go, .NET und Dart ab. Die Community hat zusätzlich Implementierungen für PHP, Ruby, Java, Swift und viele weitere Sprachen beigesteuert. Damit lässt sich TOON in nahezu jedem modernen Stack einsetzen.

Wer hat TOON erfunden?

TOON wurde von Johann Schopplich entwickelt und im Oktober 2025 öffentlich vorgestellt. Der Launch über einen viralen Beitrag auf X sorgte schnell für Aufmerksamkeit in der Entwickler Community. Das Format ist Open Source unter MIT Lizenz und wird auf GitHub unter der Organisation toon-format gepflegt.

Verliert man bei der Konvertierung nach TOON Daten?

Nein. Die Konvertierung zwischen JSON und TOON ist verlustfrei. Mit encode wandelt man JSON nach TOON, mit decode wieder zurück, ohne dass Informationen verloren gehen. TOON bildet das vollständige Datenmodell von JSON ab, inklusive Objekte, Arrays und primitiver Werte. Der Round Trip ist deterministisch.

Wie sieht die TOON Syntax aus?

TOON nutzt Einrückung statt geschweifter Klammern. Ein Array wird mit einer Kopfzeile deklariert, etwa users[2]{id,name,role}, die Länge und Feldnamen genau einmal nennt. Darunter folgen die reinen Werte Zeile für Zeile, durch Kommas getrennt. Anführungszeichen werden nur gesetzt, wenn sie wirklich nötig sind.

Schadet TOON der Antwortgenauigkeit des Modells?

In Benchmarks nicht. Die expliziten Längenangaben und Feldlisten geben dem Modell einen klaren Bauplan und können die Trefferquote beim Parsen sogar verbessern. Auf der offiziellen Projektseite wird eine Genauigkeit von 76,4 Prozent gegenüber 75,0 Prozent bei JSON genannt, bei rund 40 Prozent weniger Tokens.

Welchen Overhead hat TOON?

TOON fügt durch Feld Header und Längenangaben einen kleinen Overhead von rund fünf Prozent hinzu. Dieser dient der besseren Lesbarkeit für Modelle und der zuverlässigen Validierung. Bei gleichförmigen Daten wird er durch die eingesparten wiederholten Schlüssel mehr als ausgeglichen, bei unpassenden Datenformen nicht.

Lohnt sich TOON für lokale Modelle?

Das kommt auf den Anwendungsfall an. Weniger Tokens bedeuten kürzere Verarbeitungszeit und mehr Platz im Kontext, was bei lokalen Modellen über Ollama oder llama.cpp hilft. Bei latenzkritischen Setups gilt aber: erst messen. Kompaktes JSON kann in manchen Fällen schneller geparst werden, trotz höherer Tokenzahl.

Wie führt man TOON in ein bestehendes Projekt ein?

Der Eingriff ist minimal. Datenhaltung, APIs und Datenbank bleiben unverändert. Nur der letzte Schritt vor dem LLM Call kommt hinzu, die Konvertierung von JSON nach TOON mit encode. Die Antwort des Modells lässt sich bei Bedarf mit decode zurückwandeln. So bleibt der bestehende Code weitgehend unberührt.

A/B Testing mit KI – Automatisiertes Testing für Entwickler 2026