TypeSafe Jev Router wählt Modell, Reasoning und Cache pro Anfrage – was die 237-Aufgaben-Zahl wirklich bedeutet

Stand: 26. September 2026. typesafe/jev-router ist ein neuer gehosteter Modellrouter auf OpenRouter. Er beantwortet den Prompt nicht selbst. Stattdessen nutzt er TypeSafes Entscheidungsmodell Jev, um ein passendes generatives Modell und den Reasoning-Aufwand auszuwählen. OpenRouter nennt für den Router ein Kontextfenster von 1.000.000 Tokens, multimodale Eingaben und eine Veröffentlichung am 25. September 2026. [S1][S2]

Der interessante Teil ist nicht nur die Modellauswahl. Laut OpenRouters Launch-Erklärung versucht Jev Router, ein funktionierendes Modell über eine Unterhaltung hinweg beizubehalten, den Reasoning-Aufwand bei Bedarf hoch- oder herunterzusetzen und erst dann das Modell zu wechseln, wenn der erwartete Qualitätsgewinn die Kosten des Wechsels einschließlich eines verlorenen Prompt-Caches rechtfertigt. [S18][S3][S3]

Jev Router ist vor allem für Nutzer interessant, die nicht bei jedem Request selbst zwischen schnellen, günstigen und stärkeren Modellen wählen möchten. Der größte noch offene Punkt ist die unabhängige Validierung: Die starken Router-Benchmarkzahlen stammen derzeit von OpenRouter selbst.

Die wichtigsten Fakten

Merkmal	Stand 26.09.2026
OpenRouter-ID	typesafe/jev-router
Anbieter	TypeSafe / OpenRouter
Typ	gehosteter, Jev-gestützter Modell- und Reasoning-Router
Release	25. September 2026
Kontext laut OpenRouter	1.000.000 Tokens
Eingaben	Text, Bilder, Dateien/PDFs, Audio, Video
Ausgabe	Text
Jev selbst	textbasiertes Entscheidungsmodell, kein Chat-LLM
Router-Listenpreis	$0 Prompt / $0 Completion auf der Modellseite
Modellwechsel	cache-aware; nach OpenRouter nur bei ausreichend großem erwarteten Nutzen
ZDR	OpenRouter sagt, dass Jev unter ZDR läuft und zdr: true unterstützt wird
Launch-Benchmark	237/423 Aufgaben vs. 130/423 für OpenRouter Auto Router; Anbieterangabe

Quellen: OpenRouter-Modellseite und Launch-Kommunikation, TypeSafe-Dokumentation. [S1][S3][S18]

Was ist Jev Router genau?

OpenRouter beschreibt Jev Router als einen Router, der für jede Anfrage Modell und Reasoning-Aufwand auswählt. Der Endpunkt bleibt dabei stabil: Anwendungen senden ihre Chat-Anfrage an OpenRouter und setzen lediglich model auf typesafe/jev-router. [S1][S2]

Das darunterliegende Jev ist etwas grundlegend anderes als ein normales LLM. TypeSafe nennt Jev ein „System One“-Modell: Es liest Text und gibt strukturierte Entscheidungen sowie Wahrscheinlichkeiten aus. Die öffentlichen primitiven Fragetypen sind Choice, Score und Noul. Jev schreibt selbst keine Chatantwort, keinen Code und keine Erklärung. [S3][S3][S3]

Genau diese Trennung ist für den Router sinnvoll: Jev muss nicht selbst die eigentliche Aufgabe lösen. Es soll schnell beurteilen, wie die Aufgabe beschaffen ist und welche Ausführungsstrategie sinnvoll erscheint; danach übernimmt ein generatives Modell die eigentliche Antwort. TypeSafe führt Modellrouting ausdrücklich als Jev-Anwendungsfall auf. [S12][S3]

Wie entscheidet der Router?

OpenRouter nennt für den gehosteten Router mehrere Signale. Vor einem Turn bewertet Jev unter anderem die Schwierigkeit, die benötigte Präzision, den möglichen Nutzen eines größeren Modells beziehungsweise höheren Reasoning-Aufwands, die Frage, ob ein günstigeres Modell genügt, und ob sich die Aufgabe innerhalb der Unterhaltung verändert hat. [S18]

Die Session-Logik ist dabei wichtiger als ein simpler „Prompt rein, Modell raus“-Klassifikator:

1. Der Router prüft den aktuellen Turn.
2. Wenn das bisherige Modell weiterhin passend ist, soll es beibehalten werden.
3. Der Reasoning-Aufwand kann verändert werden, ohne zwingend das Modell zu wechseln.
4. Ein Modellwechsel soll erst erfolgen, wenn der erwartete Nutzen größer ist als dessen Kosten – inklusive des möglicherweise verlorenen gecachten Chats. [S18]

Das ist wirtschaftlich relevant. Prompt Caching spart bei langen, wiederholten Präfixen Geld und Zeit; OpenRouter verwendet zusätzlich „sticky routing“, um Cache-Hits beim selben Modell und Provider wahrscheinlicher zu machen. Ein Wechsel zu einem anderen Modell kann diesen Vorteil aufheben, weil das neue Ziel den bisherigen Kontext erneut verarbeiten muss. [S3][S3]

Jev Router vs. OpenRouter Auto Router

OpenRouters bestehender openrouter/auto verfolgt eine andere Strategie. Die im August 2026 erneuerte Variante nutzt die aggregierte Modellauswahl der OpenRouter-Nutzer: OpenRouter wertet laut eigener Beschreibung mehr als 55 Billionen Tokens wöchentlichen Spend aus, klassifiziert Aufgaben und baut daraus eine Pareto-Auswahl nach Kostenstufe. Die zugrunde liegenden Signale werden über ein rollierendes Sieben-Tage-Fenster aktualisiert. [S3]

Jev Router bewertet dagegen den konkreten Turn mit Jev und bezieht nach OpenRouters Launch-Text explizit Schwierigkeit, Reasoning-Aufwand und Cache-Kosten des Modellwechsels ein. [S18]

Eigenschaft	Jev Router	Auto Router
ID	typesafe/jev-router	openrouter/auto
Kernsignal	Jev-Entscheidung über konkrete Anfrage	Aufgabenklasse + aggregierter OpenRouter-Spend
Kostensteuerung	Teil der Jev-/Cache-Abwägung	cost_tier von low bis max
Reasoning-Aufwand	wird laut Launch explizit gewählt	nicht als zentrales öffentliches Router-Signal beschrieben
Multi-Turn	Modell möglichst halten; Effort separat anpassen	Modell bleibt, solange es weiter zu den führenden Kandidaten gehört
Cache-Awareness	expliziter Bestandteil der Wechselentscheidung	Sticky Routing und Session-Verhalten vorhanden, aber andere Auswahlmethodik
Öffentlicher Launch-Vergleich	237/423 vs. 130/423 zugunsten Jev Router	Vergleichsbasis im OpenRouter-Launch

Quellen: [S3][S3][S3][S18]

Der 237-vs.-130-Benchmark: starkes Signal, aber noch kein unabhängiger Beweis

OpenRouter berichtet, Jev Router habe über vier Agent-Benchmarks 237 von 423 Aufgaben gelöst, Auto Router dagegen 130 von 423. Das entspricht eigenen Berechnungen zufolge etwa 56,0 % gegenüber 30,7 %, also +25,3 Prozentpunkten beziehungsweise 82,3 % mehr gelösten Aufgaben relativ zur Auto-Router-Zahl. [S12][S18]

OpenRouter berichtet außerdem eine niedrigere mediane Time-to-First-Token als alle anderen in fünf Agent-Benchmarks getesteten Router. [S18]

Diese Zahlen sollten derzeit aber exakt so beschriftet werden: OpenRouter-eigener Launch-Benchmark. In den geprüften Quellen war keine vollständige öffentliche Router-Eval mit allen 423 Aufgaben, exakten Kandidatenmodellen, Kostenprofilen, Effort-Einstellungen und reproduzierbaren Rohresultaten auffindbar. Deshalb lässt sich der 82-%-Vorteil noch nicht unabhängig reproduzieren.

Das ist nicht dasselbe wie zu sagen, die Zahl sei falsch. Es bedeutet nur, dass ihre Evidenzklasse derzeit unter einer vollständig reproduzierten unabhängigen Messung liegt.

Was unabhängige Jev-Forschung über mögliche Grenzen zeigt

Jev Router ist mehr als Jev allein. Trotzdem ist die Qualität des Entscheidungsmodells ein wichtiger Teil der Kette. Genau hier sind seit Jevs Veröffentlichung mehrere unabhängige Preprints erschienen.

Eine Studie von Rao und Callison-Burch verglich Jev auf neun Panels aus sieben Benchmarks mit drei Flash-Klasse-LLM-Judges. Die Autoren fanden große Kosten- und Latenzvorteile für Jev, aber auch stark korrelierte Fehler: Ein Kaskadenansatz, der unsichere Jev-Fälle an ein LLM weitergibt, verbesserte die beste Einzel-Judge-Leistung in ihren aufgezeichneten Experimenten nur begrenzt. [S15]

Eine zweite Arbeit testete, ob Optionsnamen die Entscheidung beeinflussen können. Bei 1.200 Workflow-Entscheidungen änderte allein das Umhängen von Rubriken hinter semantisch aufgeladenen Labels wie „no/yes“ viele Antworten; beim gehosteten Modell replizierten die Autoren eine deutliche Sensitivität. Wichtig: Die Ausgaben blieben formal typkorrekt, obwohl die semantische Entscheidung schlechter wurde. [S16]

Ein weiterer Preprint, „JevOut“, zeigt, dass natürlich wirkende Zusatzkontexte gezielt bereits korrekte Entscheidungen verschieben können. Das ist besonders für Router und Tool-Gates relevant, weil deren Eingaben häufig aus nicht vollständig vertrauenswürdigen Nutzertexten oder Tool-Ausgaben bestehen. [S17]

Für Jev Router folgt daraus kein pauschales „funktioniert nicht“. Sinnvoller ist eine konkrete Betriebsregel: Routing-Qualität auf der eigenen Prompt-Verteilung messen und Fehlrouten sichtbar loggen.

Jev selbst ist text-only – warum der Router trotzdem Bilder und PDFs annimmt

Hier entsteht leicht ein scheinbarer Widerspruch. TypeSafe dokumentiert Jev 1.13 als text-only. OpenRouter führt Jev Router dagegen als multimodalen Endpunkt für Audio, Dateien, Bilder, Text und Video. [S1][S3]

OpenRouters Launch-Erklärung löst diesen Widerspruch auf: Jev liest für die Routingentscheidung den Unterhaltungstext; Attachments werden laut OpenRouter nicht an Jev gesendet. Der anschließend gewählte Ziel-LLM kann die Multimodalität übernehmen. [S18]

Damit sollten zwei Kontextangaben ebenfalls nicht vermischt werden:

• Jev 1.13 direkt: TypeSafe dokumentiert 64K Gesamtbudget pro Request mit einer zusätzlichen 32K-Grenze für state plus längste Frage. [S3]
• Jev Router: OpenRouter wirbt mit 1.000.000 Tokens Kontext. [S1]

Die Million Tokens ist somit eine Eigenschaft des Router-Endpunkts beziehungsweise seiner kompatiblen Routingumgebung – nicht des Jev-Klassifikators selbst.

Datenschutz und Zero Data Retention

OpenRouter sagt im Launch-Post, dass der Jev-Schritt unter Zero Data Retention (ZDR) läuft, nichts gespeichert oder zum Training verwendet wird, Attachments nicht an Jev gehen und Requests mit "zdr": true unterstützt werden. [S18]

Das ist eine wichtige, aber nicht vollständige Datenschutzbeschreibung. Nach der Routingentscheidung verarbeitet auch das gewählte generative Modell die Anfrage. Für produktive oder sensible Daten sollte deshalb nicht nur die Jev-Schicht betrachtet werden, sondern auch die Provider-Routing-Regeln des tatsächlich ausgewählten Modells. OpenRouter dokumentiert dafür unter anderem ZDR- und Data-Collection-Filter. [S3]

Für sensible Workloads gilt daher: zdr: true setzen, Activity beziehungsweise Routing-Metadaten prüfen und vor dem Produktiveinsatz verifizieren, welche Provider tatsächlich auswählbar bleiben.

Was kostet typesafe/jev-router?

Die OpenRouter-Modellseite zeigt für Jev Router $0 für Prompt- und Completion-Tokens und beantwortet die Frage „Is Jev Router free?“ mit Ja. [S1]

Gleichzeitig erklärt OpenRouter im Launch-Text ausdrücklich die Kosten des ausgewählten Modells und warum ein Modellwechsel den Cache verlieren und dadurch eine erneute vollständige Verarbeitung des Chats auslösen kann. [S18]

Deshalb ist die saubere Formulierung derzeit:

Die Router-Schicht wird von OpenRouter mit $0/$0 gelistet. Die Gesamtkosten eines produktiven Requests hängen dennoch von der tatsächlich ausgeführten Modellroute und deren Abrechnung ab.

Eine fixe „Jev-Router-Kosten-pro-Million-Tokens“-Rechnung wäre ohne dokumentierte Verteilung der Zielmodelle irreführend. Für einen eigenen Kostenvergleich sollte man stattdessen pro Request den ausgewählten Modellnamen, usage.cost, Input-/Output-Tokens und Cache-Metriken erfassen.

So nutzt du Jev Router über OpenRouter

OpenRouter führt TypeSafe-Modelle hinter seiner OpenAI-kompatiblen API. Der wesentliche Wechsel ist die Modell-ID. [S2][S19]

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="typesafe/jev-router",
    messages=[
        {
            "role": "user",
            "content": "Erkläre, warum ein KV-Cache bei langen Agent-Sessions Geld sparen kann."
        }
    ],
)

print(response.choices[0].message.content)

Für produktive Tests würde ich zusätzlich die rohe Response protokollieren. OpenRouter sagt, Jev Router liefere Routing-Metadaten mit dem Grund für die Auswahl; die Oberfläche zeigt außerdem Scores wie Aufgabe, Schwierigkeit, Präzision und Nutzen eines größeren Modells. Da die öffentlich auffindbare Launch-Beschreibung kein stabiles JSON-Schema dieser Zusatzmetadaten festschreibt, sollte Anwendungscode diese Felder nicht blind anhand eines Social-Post-Beispiels hardcoden. [S18]

Was passiert, wenn Jev ausfällt?

Hier unterscheidet sich der gehostete Router bewusst von manchen selbstgebauten Routern. Laut OpenRouter schlägt der Request fehl, wenn der Jev-Aufruf ein Timeout hat oder ungültige Ausgabe liefert. Es wird nicht still auf einen anderen Router zurückgefallen. [S18]

Das ist für Zuverlässigkeit relevant: Ein fail-closed Router macht seine Fehlentscheidung nicht unsichtbar, kann aber die Verfügbarkeit senken. Anwendungen mit hoher Verfügbarkeitsanforderung sollten deshalb selbst entscheiden, ob sie bei einem Router-Fehler erneut mit einem fest definierten Modell senden wollen.

Jev Router auf dem Mac: lokal oder Cloud?

typesafe/jev-router ist ein Cloud-Endpunkt, kein herunterladbarer Apple-Silicon-Checkpoint. Ein Mac mini oder MacBook führt weder Jev Router noch das jeweils ausgewählte Frontier-Modell lokal aus. Für die Nutzung reichen ein API-Client, ein Agent oder ein kompatibles Tool.

Damit unterscheidet sich die Hardwarefrage stark von einem MLX- oder Ollama-Modell: Unified Memory und Speicherbandbreite bestimmen nicht die Inferenzgeschwindigkeit des Routers. Relevant sind stattdessen Netzwerklatenz, OpenRouter-Provider, gewähltes Modell, Promptgröße, Caching und Reasoning-Aufwand.

Für Mac-Nutzer ist deshalb die praktischere Frage: Soll der lokale Workflow selbst ein Modell festlegen – oder darf der Cloud-Router Qualität, Latenz und Kosten dynamisch abwägen?

Jev Router, Pareto oder ein festes Modell?

Jev Router und Systeme wie Pareto lösen verschiedene Probleme. Ein Router versucht ein Zielmodell auszuwählen. Pareto 26.9 dagegen wird als Multi-LLM-/Blended-System angeboten, bei dem mehrere Modelle an einer Anfrage beteiligt werden und ein Ergebnis synthetisiert wird. Auf ai-on-mac.com ist dieser Unterschied bereits im Pareto-26.9-Faktencheck erklärt.

Ein fest ausgewähltes Modell ist wiederum sinnvoll, wenn Reproduzierbarkeit, explizite Capability-Anforderungen oder ein stabil evaluiertes Setup wichtiger sind als automatische Optimierung. Die Kostenunterschiede verschiedener Reasoning-Stufen und Modellklassen zeigt der bestehende GPT-6-Sol-vs.-Luna-Vergleich.

Für wen lohnt sich ein Test?

Jev Router ist besonders interessant, wenn ein Workflow:

• viele unterschiedliche Aufgabenschwierigkeiten enthält,
• lange Multi-Turn-Sessions mit wertvollem Prompt-Cache erzeugt,
• mehrere Modellklassen nutzen darf,
• Reasoning-Aufwand dynamisch variieren kann,
• und Routingentscheidungen beobachtbar geloggt werden können.

Vorsicht ist sinnvoll, wenn ein System eine exakt reproduzierbare Modellwahl verlangt, regulatorisch nur eine enge Provider-Liste erlaubt oder Fehlrouting sehr hohe Folgekosten hat. Die unabhängigen Jev-Studien machen zusätzlich klar, dass strukturierte Ausgabe nicht mit semantischer Fehlerfreiheit gleichgesetzt werden darf. [S15][S16][S17]

Ein sinnvoller eigener Benchmark

Statt zehn zufällige Prompts zu vergleichen, sollte ein Router-Test reale Verteilungen abbilden. Ein brauchbarer Minimalversuch:

1. 100–500 echte, anonymisierte Aufgaben aus dem eigenen Workflow sammeln.
2. Vorab Erfolgskriterien pro Aufgabe definieren.
3. typesafe/jev-router, openrouter/auto und ein bis zwei feste Basismodelle gegeneinander laufen lassen.
4. Pro Run Modellwahl, Reasoning-Einstellung, Input-/Output-Tokens, Cache-Nutzung, TTFT, Gesamtlatenz, Kosten und Aufgaben-Erfolg speichern.
5. Multi-Turn-Aufgaben separat auswerten, weil genau dort Cache-Awareness relevant wird.
6. Fehlrouten manuell gruppieren: zu schwaches Modell, unnötig starkes Modell, falscher Effort, Capability-Mismatch, Router-Fehler.
7. Den Test nach größeren Router- oder Modelländerungen wiederholen.

Das liefert einen belastbareren Entscheidungswert als ein globaler Launch-Benchmark, weil Router immer von der konkreten Aufgabenverteilung abhängen.

Fazit

Jev Router ist technisch interessanter als ein gewöhnliches „Auto“-Alias: OpenRouter kombiniert Jevs schnelle strukturierte Entscheidungen mit Modellwahl, Reasoning-Steuerung, Session-Stickiness und Cache-Kosten. Die öffentliche Spezifikation – 1M Kontext, Multimodalität und ein einziger OpenRouter-Endpunkt – macht den Einstieg einfach. [S1][S18]

Der wichtigste Vorbehalt bleibt die Evidenz. 237 statt 130 gelöste Aufgaben ist ein starkes Launch-Ergebnis, aber derzeit eine OpenRouter-Messung. Gleichzeitig zeigen unabhängige Arbeiten zu Jev, dass formal saubere Entscheidungen empfindlich auf Labels und Kontext reagieren können. [S12][S16][S17]

Für produktive Nutzung ist deshalb nicht die Frage „Ist Jev Router generell besser?“, sondern: Wie oft trifft er auf deinen Aufgaben die richtige Modell-/Effort-Wahl, was kostet diese Route inklusive Cache-Effekten und wie stabil bleibt sie über längere Sessions? Genau diese drei Größen sollten beim eigenen Test zuerst gemessen werden.

Methodik und Quellenhinweis

Recherche durchgeführt am 26. September 2026. Kernangaben wurden gegen OpenRouter- und TypeSafe-Primärquellen geprüft. Router-Benchmarkwerte sind als Anbieterangaben gekennzeichnet; unabhängige Jev-Studien werden nur für die zugrunde liegende Entscheidungskomponente herangezogen und nicht als direkte Reproduktion des gehosteten Routers ausgegeben. Das vollständige Rechercheprotokoll mit mehr als 30 geöffneten Quellen liegt im Paket unter data/sources.md.

Quellen

Alle folgenden Quellen wurden am 26. September 2026 geprüft. Die vollständige Recherchematrix mit 49 Quellen liegt in data/sources.md.

• S1 — OpenRouter: Jev Router - API Pricing & Providers (2026-09-25).
• S2 — OpenRouter: Typesafe API and Models (2026-09-25).
• S3 — OpenRouter: Auto Router - model page (current).
• S3 — OpenRouter: Auto Router - Intelligent Model Selection (current).
• S3 — OpenRouter: Model Routing Powered by Wisdom of the Market (2026-08-10).
• S3 — OpenRouter: Prompt Caching - Optimize AI Model Costs with Smart Caching (current).
• S3 — OpenRouter: The Cheapest Token Is a Cached One: Prompt Caching + Sticky Routing (2026-07-21).
• S3 — TypeSafe AI: System One (current).
• S3 — TypeSafe AI: Models (current).
• S3 — TypeSafe AI: API reference (current).
• S3 — TypeSafe AI: Jev with coding agents (current).
• S12 — TypeSafe AI: Example use cases (current).
• S3 — TypeSafe AI: How to build with TypeSafe (current).
• S12 — System One Models: Jev Router on OpenRouter (2026-09-25).
• S15 — Delip Rao; Chris Callison-Burch: JEV vs. LLMs as Rubric Judges: Cheaper, Faster, and Wrong in the Same Places (2026-09-24).
• S16 — Yu Sun; Junhao Xu: Type-Safe Is Not Error-Free: A Constrained Decision Head Follows the Option Name, Not the Rubric Bound to It (2026-09-22).
• S17 — Zixiang Xu: JevOut: Natural Context Can Flip Decision Models (2026-09-24).
• S18 — System One Models: Jev Router on OpenRouter – Launch-Hinweis mit Benchmarkzahlen (2026-09-25); dort zitiert der X-Post von @OpenRouter vom 25.09.2026 die 237/423-Aufgaben.
• S19 — OpenRouter: Quickstart (current).