Kernleitfäden
API-Formate
Wählen Sie zwischen Chat Completions, Responses, Messages oder Gemini
Ein TokenLab API-Key funktioniert mit vier gängigen API-Formaten. Behalten Sie das Format bei, das Ihre Anwendung bereits verwendet, es sei denn, Sie benötigen eine modellspezifische Funktion.
| Format | Endpoint | Wählen Sie dies, wenn |
|---|---|---|
| Chat Completions | /v1/chat/completions | Sie einen OpenAI-kompatiblen Chat-Client verwenden oder breite Modellkompatibilität wünschen |
| Responses | /v1/responses | Ihre Anwendung Responses-Events, Hintergrundantworten oder Responses-Tools nutzt |
| Anthropic Messages | /v1/messages | Sie Claude Messages-Felder wie Thinking oder Claude-Tool-Nutzung benötigen |
| Gemini | /v1beta/models/:model:generateContent | Sie bereits Gemini contents, Parts, Files, Cache oder Gemini-Tools verwenden |
Überprüfen Sie tokenlab.accepted_request_formats auf der Modellseite oder unter GET /v1/models/{model}. Ein Modell akzeptiert nicht zwangsläufig alle vier Formate.
Chat Completions
Chat Completions ist die einfachste Wahl für bestehende OpenAI-kompatible Clients und portable Chat-Funktionen.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="gpt-5.6-luna",
messages=[{"role": "user", "content": "Hello!"}],
)
print(response.choices[0].message.content)Verwenden Sie dieses Format für:
- bestehende OpenAI-kompatible Chat-Integrationen
- standardmäßigen Nachrichtenverlauf und Streaming
- Funktionsaufrufe (Function Calling), die vom ausgewählten Modell unterstützt werden
Es gibt keine Garantie, dass Felder, die für ein anderes API-Format spezifisch sind, hier funktionieren.
Responses
Verwenden Sie Responses nur, wenn das ausgewählte Modell openai_responses in accepted_request_formats auflistet.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.responses.create(
model="gpt-5.6-terra",
input="Explain why the sky is blue in two sentences.",
)
print(response.output_text)Die Responses API unterstützt das Erstellen, Abrufen, Komprimieren, Löschen, Streaming, die WebSocket-Erstellung und -Fortsetzung sowie Hintergrundantworten, sofern das ausgewählte Modell diese unterstützt. Löschen entfernt eine gespeicherte Antwort; es bricht keine aktive Antwort ab.
Anthropic Messages
Verwenden Sie das Anthropic SDK mit dem TokenLab-Host, ohne /v1 an die Basis-URL anzuhängen.
import os
from anthropic import Anthropic
client = Anthropic(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh",
)
message = client.messages.create(
model="claude-sonnet-5",
max_tokens=512,
messages=[{"role": "user", "content": "Hello!"}],
)
print(message.content[0].text)Wählen Sie Messages für Claude-spezifische Anfrage- und Antwortfelder. Behalten Sie Claude-Tool-Aufrufe, Thinking-Blöcke und Prompt-Cache-Felder in diesem Format bei.
Gemini
Gemini-Anfragen verwenden den TokenLab-Host und den Gemini REST-Pfad.
curl "https://api.tokenlab.sh/v1beta/models/gemini-3.6-flash:generateContent" \
-H "Authorization: Bearer $TOKENLAB_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"contents": [{"parts": [{"text": "Hello!"}]}]
}'Wählen Sie Gemini, wenn Ihre Anwendung bereits Gemini Content-Parts, Funktionsdeklarationen, Files, gecachte Inhalte oder andere Gemini-Felder verwendet. Sowohl lowerCamelCase ProtoJSON-Namen als auch die ursprünglichen snake_case Proto-Namen werden akzeptiert; vermeiden Sie es, beide Schreibweisen desselben Feldes in einer Anfrage zu senden.
Mischen Sie keine Formate innerhalb einer Konversation
Messages, Responses, Chat Completions und Gemini stellen den Konversationsstatus und Tool-Aufrufe unterschiedlich dar. Behalten Sie ein Format für eine Konversation bei. Wenn Sie einen gespeicherten Verlauf migrieren müssen, konvertieren und validieren Sie diesen in Ihrer Anwendung, bevor Sie die nächste Anfrage senden.
Unbekannte Felder
TokenLab leitet möglicherweise Felder weiter, die es nicht erkennt, aber das bedeutet nicht, dass jedes Modell diese akzeptiert. Eine Funktion ist nur dann sicher zu verwenden, wenn das ausgewählte Modell sie dokumentiert und Ihre Anwendung einen Fehler bei nicht unterstützten Feldern abfängt.