OpenRouter vs. Portkey vs. TokenLab: Routing, Observability und Kosten

OpenRouter, Portkey und TokenLab befinden sich auf unterschiedlichen Ebenen des KI-Stacks. OpenRouter ist ein Runtime-Routing-Gateway, das Anfragen unter einer einzigen API an Modellanbieter weiterleitet. Portkey ist ein Runtime-Gateway mit einer zusätzlichen Observability- und Governance-Ebene (Logging, Guardrails, Caching). TokenLab ist eine Ressource für den Vergleich von Preisen und Fähigkeiten, kein Runtime-Gateway. Wenn Sie die Frage „Was wird mich das kosten?“ beantworten möchten, lautet die ehrliche Antwort: Die Live-Preisdaten von TokenLab zeigen, dass die Modellkosten pro 1 Mio. Token je nach Zielmodell zwischen etwa 0,27 $ und 60 $ liegen. Die Routing-Aufschläge von OpenRouter und die Preisstufen von Portkey werden jedoch nicht in einer Form veröffentlicht, die dieser Datensatz verifizieren könnte. Sie müssen die Preis-Seiten dieser beiden Anbieter prüfen, bevor Sie ein Produktions-Workload budgetieren.

Dieser Artikel liefert Ihnen die konkreten Zahlen, die TokenLab verifizieren kann, legt offen dar, was nicht verifiziert werden kann, und bietet eine Checkliste für die Integrationsfragen (Endpunkt, Authentifizierung, Fehlerbehandlung), die die meisten Teams davon abhalten, ein neues Gateway produktiv zu nutzen.

Wichtige Erkenntnisse

• Die Live-Preisdaten von TokenLab (beobachtet am 09.07.2026) zeigen Kosten für Textmodelle pro 1 Mio. Input- + 1 Mio. Output-Token zwischen 0,27 $ (DeepSeek V4 Flash) und 60 $ (Claude Fable 5). Siehe die vollständige Tabelle unten.
• Die spezifischen Aufschlagsprozentsätze und Preisstufen von OpenRouter und Portkey sind in diesem Datensatz nicht enthalten. Betrachten Sie keine Zahl in diesem Artikel als deren veröffentlichte Gateway-Gebühr. Überprüfen Sie dies direkt auf der jeweiligen Preis-Seite des Anbieters, bevor Sie ein Budget festlegen.
• OpenRouter ist eine Routing-Ebene mit einheitlichem API-Zugriff und Fallback-Ketten. Portkey ergänzt ähnliches Routing um Request-Level-Logging, Guardrails und Prompt-Management. Überprüfen Sie den aktuellen Funktionsumfang in der Dokumentation des jeweiligen Anbieters, da sich Gateway-Funktionssets ohne Vorankündigung ändern können.
• TokenLab erhebt keine Gebühren für das Routing, da es kein Runtime-Gateway ist. Es aggregiert Modellpreise, damit Sie die Kosten pro Token vergleichen können, bevor Sie Integrationscode schreiben.
• Das größte unverifizierte Kostenrisiko bei jedem Multi-Modell-Gateway-Setup ist das Fallback-Routing, das bei einem Ausfall des Anbieters den Datenverkehr stillschweigend auf ein teureres Modell umleitet, nicht die Basisgebühr des Gateways.

Quellen-Snapshot

Quelle	Abdeckung	Beobachtet am
TokenLab Live-Modell-/Preisdaten	Preise pro Token bei Anthropic, OpenAI, Google, DeepSeek und anderen Anbietern im TokenLab-Katalog	09.07.2026
Offizielle OpenRouter-Dokumentation	Routing-Mechanik, Fallback-Verhalten, Authentifizierung	In diesem Datensatz nicht unabhängig verifiziert; vor der Integration direkt bestätigen
Offizielle Portkey-Dokumentation	Preisstufen, Logging-Aufbewahrung, Umfang der Guardrails	In diesem Datensatz nicht unabhängig verifiziert; vor der Integration direkt bestätigen

Da für diese Aktualisierung keine offiziellen Preis- oder API-Dokumentationen von OpenRouter oder Portkey als Nachweis geliefert wurden, ist jede Behauptung über deren Gebührenstruktur unten als unverifiziert gekennzeichnet und mit einem Verifizierungsschritt statt mit einer erfundenen Zahl versehen.

Was die einzelnen Tools tatsächlich tun

OpenRouter ist eine Routing-Ebene. Sie senden eine für eine API formatierte Anfrage, und OpenRouter leitet diese an den von Ihnen angegebenen Anbieter und das Modell weiter oder an ein Fallback-Modell in Ihrer Liste, falls das primäre Modell nicht verfügbar ist. Dies ist nützlich, wenn Sie zwischen Modellen wie Claude Sonnet 5, GPT-5.5, Gemini 3.5 Flash oder Open-Weight-Modellen wie DeepSeek V4 Pro routen möchten, ohne den Client-Code pro Anbieter-SDK umschreiben zu müssen. Bestätigen Sie die aktuell unterstützten Modelle und das Fallback-Verhalten in der eigenen Dokumentation von OpenRouter, da sich Modellkataloge häufig ändern.

Portkey ergänzt das Multi-Anbieter-Routing um Request-Logging, semantisches Caching, Guardrails (Inhaltsfilterung, PII-Redaktion) und Prompt-Management. Das zentrale Wertversprechen sind Audit- und Governance-Tools rund um Anfragen, bei denen eine Ausgabe auf einen Benutzer, eine Kostenstelle oder eine Prompt-Version zurückgeführt werden kann, nicht nur das Routing selbst.

TokenLab ist kein Runtime-Gateway. Es ist eine Vergleichsressource: aktuelle Preis- und Modellfähigkeitsdaten über Anbieter hinweg, damit Sie entscheiden können, bevor Sie integrieren. Wenn Sie sich zwischen OpenRouter und Portkey oder zwischen fünf Modellanbietern entscheiden müssen, ist die Vergleichsseite von TokenLab für diesen Entscheidungspunkt konzipiert, nicht für die Abwicklung von Produktionsverkehr.

LLM-Gateway-Vergleich: Funktionsmatrix

Funktion	OpenRouter	Portkey	TokenLab	In diesem Datensatz verifiziert
Einheitliche Multi-Anbieter-API	Ja (gemäß allgemeiner Anbieterbeschreibung)	Ja (gemäß allgemeiner Anbieterbeschreibung)	N/A, nur Vergleichstool	Nein, in Anbieter-Doku bestätigen
Automatisches Failover-Routing	Ja (gemäß allgemeiner Anbieterbeschreibung)	Ja (gemäß allgemeiner Anbieterbeschreibung)	N/A	Nein, in Anbieter-Doku bestätigen
Request-Level-Logging/-Tracing	Begrenzt (gemäß allgemeiner Anbieterbeschreibung)	Umfangreich (gemäß allgemeiner Anbieterbeschreibung)	N/A	Nein, in Anbieter-Doku bestätigen
Guardrails / PII-Redaktion	Begrenzt (gemäß allgemeiner Anbieterbeschreibung)	Ja (gemäß allgemeiner Anbieterbeschreibung)	N/A	Nein, in Anbieter-Doku bestätigen
Veröffentlichter Routing-Aufschlag %	Nicht in diesem Datensatz gefunden	Nicht in diesem Datensatz gefunden	Nicht zutreffend, kein Aufschlag	Nein
Preisvergleich zwischen Anbietern	Nein	Nein	Ja	Ja, TokenLab Live-Daten, beobachtet am 09.07.2026

Diese Tabelle ist bewusst konservativ gehalten. Jedes Label „Begrenzt“ oder „Umfangreich“ spiegelt die allgemeine Positionierung des Anbieters wider, nicht ein gemessenes Funktions-Audit, und wird in diesem Datensatz nicht als Benchmark geführt. Betrachten Sie dies als erste Checkliste für Ihren eigenen Test, nicht als endgültige Bewertung.

Wenn Sie sich diese Woche entscheiden: Vergleichen Sie die aktuellen Modellpreise pro Token auf den Modellseiten von TokenLab, bevor Sie ein Gateway auswählen, da Ihre Gesamtrechnung viel stärker davon abhängt, an welches Modell Sie routen, als davon, welches Gateway die Anfrage weiterleitet.

TokenLab Modellpreise: Was 1 Mio. Token tatsächlich kosten

Diese Tabelle verwendet direkt die Live-Preisdaten von TokenLab. Sie zeigt die Kosten für die Verarbeitung von 1 Million Input-Token plus 1 Million Output-Token für Textmodelle, die derzeit im Katalog enthalten sind. Dies sind modellbezogene Kosten, keine Gateway-Gebühr. Sie beantwortet die Frage „Was wird mich das Modell selbst bei hohem Volumen kosten?“, was die Zahl ist, die die Gesamtausgaben dominiert, unabhängig davon, über welches Gateway Sie routen.

Modell	Input $/MTok	Output $/MTok	Kosten für 1M in + 1M out	Quelle	Beobachtet am
DeepSeek V4 Flash	0,09 $	0,18 $	0,27 $	TokenLab Live-Preisdaten	09.07.2026
Qwen3.7 Plus	0,32 $	1,28 $	1,60 $	TokenLab Live-Preisdaten	09.07.2026
MiniMax M3	0,30 $	1,20 $	1,50 $	TokenLab Live-Preisdaten	09.07.2026
DeepSeek V4 Pro	0,435 $	0,87 $	1,305 $	TokenLab Live-Preisdaten	09.07.2026
GLM-5.2	0,93 $	3,00 $	3,93 $	TokenLab Live-Preisdaten	09.07.2026
Kimi K2.7 Code	0,74 $	3,50 $	4,24 $	TokenLab Live-Preisdaten	09.07.2026
Gemini 3.5 Flash	1,50 $	9,00 $	10,50 $	TokenLab Live-Preisdaten	09.07.2026
Claude Sonnet 5	2,00 $	10,00 $	12,00 $	TokenLab Live-Preisdaten	09.07.2026
GPT-5.5 Batch/Flex	2,50 $	15,00 $	17,50 $	TokenLab Live-Preisdaten	09.07.2026
Claude Opus 4.8	5,00 $	25,00 $	30,00 $	TokenLab Live-Preisdaten	09.07.2026
GPT-5.5	5,00 $	30,00 $	35,00 $	TokenLab Live-Preisdaten	09.07.2026
Claude Fable 5	10,00 $	50,00 $	60,00 $	TokenLab Live-Preisdaten	09.07.2026

Aus dieser Tabelle ergeben sich zwei Dinge. Erstens beträgt die Spanne zwischen dem günstigsten und dem teuersten Modell im Katalog etwa das 220-fache auf Basis von 1 Mio. Token, was jeden plausiblen Gateway-Aufschlag in den Schatten stellt. Zweitens sollten Sie bei allem, was OpenRouter oder Portkey zusätzlich zu diesen Raten berechnet, jeden Anbieter direkt nach dieser Zahl fragen, da dies in diesem Datensatz nicht dokumentiert ist. Ein Gateway-Aufschlag von nur wenigen Prozent auf eine Rechnung für ein Flaggschiff-Modell von 60 $ ist ein materiell anderer Dollarbetrag als derselbe Aufschlag auf eine Rechnung von 0,27 $ für DeepSeek V4 Flash. Die Modellwahl ist also wichtiger für die Gesamtkostenkontrolle als die Gateway-Wahl.

Portkey vs OpenRouter: Unterschiede bei Routing und Observability

Das Routing-Verhalten ist der Bereich, in dem OpenRouter und Portkey am direktesten konkurrieren.

Das Routing-Modell von OpenRouter ermöglicht es Ihnen, ein primäres Modell und eine Fallback-Liste anzugeben. Wenn der primäre Anbieter einen Fehler meldet oder ein Timeout auftritt, wird die Anfrage gemäß der allgemeinen Produktbeschreibung von OpenRouter gegen das nächste Modell in Ihrer Liste erneut versucht. Die Kostenimplikation: Fallback-Modelle haben oft unterschiedliche Preise und unterschiedliche Ausgabequalitäten (siehe Tabelle oben), sodass ein Failover-Ereignis Ihre Kosten pro Anfrage stillschweigend ändern kann. Protokollieren Sie, welches Modell jede Anfrage tatsächlich bedient hat, nicht nur, welches Modell Sie angefordert haben.

Das Routing von Portkey unterstützt ähnliche Fallback-Ketten, gepaart mit einer Logging-Ebene, sodass Sie sehen können, wann und warum ein Fallback ausgelöst wurde und was es gekostet hat. Wenn Governance und Audit-Trails für Ihr Team wichtiger sind als die reine Modellvielfalt, ist diese Kombination das praktische Unterscheidungsmerkmal gegenüber der einfacheren API-Oberfläche von OpenRouter.

Keines der Tools eliminiert das Risiko einer Anbieterbindung. Prompt-Formatierung, Function-Calling-Schemas und das Verhalten des Kontextfensters unterscheiden sich weiterhin zwischen den zugrunde liegenden Modellen, selbst wenn die Gateway-API vereinheitlicht ist. Testen Sie Ihre tatsächlichen Prompts gegen jedes Modell in Ihrer Fallback-Kette, bevor Sie sich auf automatisches Failover in der Produktion verlassen, da ein Fallback auf ein günstigeres Modell auch bedeuten kann, dass ein Modell verwendet wird, das Ihr Prompt-Format stillschweigend nicht unterstützt.

OpenRouter und Portkey API-Integration: Was Sie vor dem Aufruf verifizieren müssen

Für diese Aktualisierung wurden keine offiziellen Endpunkte, Authentifizierungs-Header-Formate oder Request-/Response-Schemas von OpenRouter oder Portkey als Nachweis geliefert. Die Veröffentlichung eines geratenen Curl-Befehls oder Endpunkts hier würde für jeden, der ihn per Copy-Paste in die Produktion übernimmt, stillschweigend fehlschlagen. Daher ist dieser Abschnitt eine Verifizierungs-Checkliste statt Beispielcode. Führen Sie diese gegen die aktuelle offizielle API-Referenz jedes Anbieters aus, bevor Sie eine einzige Zeile Integrationscode schreiben:

• Bestätigen Sie die genaue Basis-Endpunkt-URL und ob diese versioniert ist (prüfen Sie auf ein Versions-Pfadsegment, das sich zwischen Releases ändern könnte).
• Bestätigen Sie den Namen und das Format des Authentifizierungs-Headers (API-Key-Header vs. Bearer-Token vs. OAuth) und ob Schlüssel pro Projekt oder pro Konto gelten.
• Bestätigen Sie das genaue Format der Modell-Identifikator-Zeichenfolge für die Modelle, die Sie aufrufen möchten (anbieterpräfixierte Slugs sind über Gateways hinweg üblich, aber das genaue Format variiert).
• Bestätigen Sie das Schema des Request-Bodys, insbesondere wie die Reihenfolge von Fallback/Modell-Listen ausgedrückt wird, wenn Sie automatisches Failover nutzen möchten.
• Bestätigen Sie Rate-Limit-Header und das Verhalten bei 429-Antworten, einschließlich der Frage, ob das Gateway sein eigenes Limit zusätzlich zum Limit des zugrunde liegenden Anbieters durchsetzt.
• Bestätigen Sie das Verhalten bei 4xx-Fehlern (fehlerhafte Anfrage vs. Authentifizierungsfehler vs. Modell nicht gefunden), damit Ihre Fehlerbehandlung korrekt verzweigt, anstatt eine Anfrage zu wiederholen, die niemals erfolgreich sein wird.
• Bestätigen Sie das Verhalten bei 5xx- und 503-Antworten des Upstream-Anbieters und ob das Gateway diese automatisch wiederholt oder den Fehler direkt an Ihren Client weiterleitet.
• Bestätigen Sie Timeout-Vorgaben und ob diese pro Anfrage konfigurierbar sind.
• Erstellen Sie Ihre eigene Retry-/Fallback-Logik explizit, anstatt davon auszugehen, dass die Standard-Fallback-Kette des Gateways Ihrer Kosten- und Qualitätstoleranz entspricht, da eine auf Uptime optimierte Standardkette Sie ohne sichtbare Warnung auf ein Modell routen kann, das 100-mal teurer ist als Ihr primäres Modell.

Diese Checkliste gilt gleichermaßen für OpenRouter und Portkey. Gehen Sie mit keinem der Gateways in die Produktion, bevor Sie diese Liste anhand der aktuellen, offiziellen Dokumentation abgearbeitet haben.

Kostenstruktur: Wo die Zahlen tatsächlich auseinandergehen

Gateway-Preismodelle unterscheiden sich in ihrer Struktur, nicht nur in der Rate, basierend auf der allgemeinen Positionierung der Anbieter:

• OpenRouter wird im Allgemeinen so beschrieben, dass es die Anbieterpreise mit einem zusätzlichen Routing-Aufschlag weitergibt. Der genaue Aufschlagsprozentsatz ist in diesem Datensatz nicht enthalten. Überprüfen Sie die aktuellen Preise direkt in der Dokumentation von OpenRouter, da die Raten je nach Modell und Anbieter variieren können.
• Portkey wird im Allgemeinen so beschrieben, dass die Preise auf dem Anfragenvolumen und der Funktionsstufe (Logging-Aufbewahrung, Guardrail-Nutzung) basieren, getrennt von den zugrunde liegenden Modellkosten. Die genauen Stufen-Breakpoints und Preise sind in diesem Datensatz nicht enthalten. Überprüfen Sie dies direkt auf der Preis-Seite von Portkey.
• TokenLab erhebt keine Gebühren für das Routing, da es kein Runtime-Gateway ist. Es aggregiert veröffentlichte Modellpreise (siehe Tabelle oben), damit Sie die Kosten pro Token über Anbieter hinweg vergleichen können, bevor Sie ein Gateway auswählen.

Das praktische Kostenrisiko bei einem Multi-Modell-Setup ist nicht die Basis-Gateway-Gebühr, sondern ein unüberwachtes Fallback-Routing. Wenn Ihre Fallback-Kette bei einem Ausfall des primären Anbieters Anfragen stillschweigend auf ein teureres Modell umleitet, kann Ihre Rechnung ohne offensichtliche Ursache in Ihren eigenen Logs in die Höhe schnellen. Richten Sie Kostenwarnungen bei dem Gateway ein, das Sie auswählen, und überprüfen Sie regelmäßig die aktuellen veröffentlichten Modellraten anhand der Preis-Seiten von TokenLab, da weder dieser Artikel noch irgendein statischer Vergleich aktuell bleibt, wenn Anbieter ihre Raten aktualisieren.

Einschränkungen

• Für diese Aktualisierung wurden keine offiziellen Preis- oder API-Dokumentationen von OpenRouter oder Portkey als Nachweis geliefert. Jede Behauptung über deren Aufschlagsprozentsatz, Preisstufen oder das genaue API-Schema ist oben als unverifiziert gekennzeichnet und erfordert eine direkte Bestätigung auf der Website des jeweiligen Anbieters.
• Die Vergleichstabelle (Ja/Begrenzt/Umfangreich) spiegelt die allgemeine Positionierung der Anbieter wider, nicht ein gemessenes Funktions-Audit oder einen Benchmark. Sie wird in diesem Datensatz nicht als Benchmark geführt.
• Die Preistabelle von TokenLab spiegelt Live-Daten wider, die am 09.07.2026 beobachtet wurden. Modellpreise können sich ohne Vorankündigung ändern; vor der Budgetierung eines Produktions-Workloads erneut verifizieren.
• Dieser Artikel enthält keine ausgearbeitete Berechnung für den OpenRouter- oder Portkey-Routing-Aufschlag, da keine Quellenzahl bereitgestellt wurde. Wenn Sie diese Zahl für eine Budgetentscheidung benötigen, fordern Sie diese direkt beim Vertriebs- oder Dokumentationsteam des jeweiligen Anbieters an.
• Es sind keine Code-Beispiele für den Aufruf der API von OpenRouter oder Portkey enthalten, da keine Nachweise für den genauen Endpunkt, die Authentifizierung und das Payload-Schema geliefert wurden. Verwenden Sie die oben genannte Verifizierungs-Checkliste, anstatt Code aus einer Drittquelle zu kopieren.

Entscheidungs-Checkliste

• Benötigen Sie Audit-Logging auf Request-Ebene für Compliance-Zwecke? Wenn ja, gewichten Sie Portkey höher.
• Benötigen Sie den breitesten Modellkatalog mit minimalem Setup? Wenn ja, gewichten Sie OpenRouter höher.
• Haben Sie Ihre tatsächlichen Prompts gegen jedes Modell in Ihrer Fallback-Kette getestet, nicht nur gegen das primäre?
• Haben Sie ein schriftliches Angebot für Aufschläge oder Gebühren direkt von OpenRouter und Portkey erhalten, anstatt einen Prozentsatz anzunehmen?
• Haben Sie die aktuellen Modellpreise pro Token verglichen (siehe Tabelle oben), damit Sie die modellbezogene Kostenuntergrenze kennen, bevor Sie eine Gateway-Gebühr hinzufügen?
• Evaluieren Sie auch Modelle für spezifische Workloads wie Coding, Bild- oder Videogenerierung, bei denen Fähigkeitsunterschiede wichtiger sind als das Routing? Prüfen Sie die Leitfäden von TokenLab zu den besten KI-Modellen für Coding, besten KI-Bildmodellen und besten KI-Videomodellen, bevor Sie ein Standardmodell pro Gateway auswählen.
• Haben Sie Kostenwarnungen eingerichtet, um durch Fallbacks verursachte Preiserhöhungen abzufangen?

Vergleichen Sie KI-Modelle nach Preis mithilfe der Live-Preisdaten von TokenLab, bevor Sie eines der Gateways in Produktionscode integrieren.

FAQ

Ist TokenLab ein Ersatz für OpenRouter oder Portkey? Nein. TokenLab ist eine Vergleichsressource zur Evaluierung von Preisen und Fähigkeiten über Anbieter hinweg. OpenRouter und Portkey sind Runtime-Tools, die tatsächlichen API-Verkehr routen und protokollieren. Verwenden Sie TokenLab, um Modellkosten zu vergleichen, und integrieren Sie dann das Gateway, das Ihren Governance- und Routing-Anforderungen entspricht.

Wie viel zahle ich zusätzlich an Gateway-Gebühren, wenn ich 1 Mio. Token über OpenRouter vs Portkey route? Dieser Datensatz enthält keinen veröffentlichten Aufschlagsprozentsatz oder Gebührenplan für einen der Anbieter, daher kann hier keine spezifische Zahl genannt werden, ohne sie zu erfinden. Fordern Sie ein aktuelles Gebührenangebot direkt bei OpenRouter und Portkey an. Was mit Nachweisen belegt werden kann, ist die modellbezogene Kostenuntergrenze: Das Routen von 1 Mio. Input- plus 1 Mio. Output-Token über DeepSeek V4 Flash kostet 0,27 $ zum beobachteten Satz von TokenLab, gegenüber 60,00 $ über Claude Fable 5, bevor eine Gateway-Gebühr hinzugefügt wird.

Wo ist der API-Endpunkt von OpenRouter oder Portkey und wie authentifiziere ich mich? Nicht in diesem Datensatz dokumentiert. Verwenden Sie die oben genannte Verifizierungs-Checkliste gegen die aktuelle offizielle API-Referenz jedes Anbieters, bevor Sie Integrationscode schreiben. Verlassen Sie sich nicht auf einen Artikel eines Drittanbieters für Endpunkt- oder Authentifizierungsdetails, die sich ohne Vorankündigung ändern können.

Welches Gateway ist am günstigsten für hochvolumigen Produktionsverkehr? Es hängt von Ihrem Modell-Mix, der Retry-Rate und davon ab, ob Sie die Logging-Stufe von Portkey benötigen, was hier alles nicht für die Gateway-Gebühr selbst quantifiziert ist. Vergleichen Sie die aktuell veröffentlichten Preise direkt auf den Preis-Seiten von OpenRouter und Portkey und vergleichen Sie die modellbezogenen Raten mit dem Preisvergleich von TokenLab. Gehen Sie nicht davon aus, dass allein die Gateway-Gebühr die Gesamtkosten bestimmt; das Modell, an das Sie routen (eine 220-fache Preisspanne in der Tabelle oben), dominiert normalerweise.

Wenn Sie ein KI-Produkt für die Produktion entwickeln und aktuelle Modellraten vergleichen müssen, bevor Sie sich auf ein Gateway festlegen, legen Sie los mit den Live-Preisdaten von TokenLab, um die genauen Kosten pro Token zu prüfen, bevor Sie Integrationscode schreiben.