Kernleitfäden

API-Formate

Wählen Sie zwischen Chat Completions, Responses, Messages oder Gemini

Ein TokenLab API-Key funktioniert mit vier gängigen API-Formaten. Behalten Sie das Format bei, das Ihre Anwendung bereits verwendet, es sei denn, Sie benötigen eine modellspezifische Funktion.

FormatEndpointWählen Sie dies, wenn
Chat Completions/v1/chat/completionsSie einen OpenAI-kompatiblen Chat-Client verwenden oder breite Modellkompatibilität wünschen
Responses/v1/responsesIhre Anwendung Responses-Events, Hintergrundantworten oder Responses-Tools nutzt
Anthropic Messages/v1/messagesSie Claude Messages-Felder wie Thinking oder Claude-Tool-Nutzung benötigen
Gemini/v1beta/models/:model:generateContentSie bereits Gemini contents, Parts, Files, Cache oder Gemini-Tools verwenden

Überprüfen Sie tokenlab.accepted_request_formats auf der Modellseite oder unter GET /v1/models/{model}. Ein Modell akzeptiert nicht zwangsläufig alle vier Formate.

Chat Completions

Chat Completions ist die einfachste Wahl für bestehende OpenAI-kompatible Clients und portable Chat-Funktionen.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="gpt-5.6-luna",
    messages=[{"role": "user", "content": "Hello!"}],
)

print(response.choices[0].message.content)

Verwenden Sie dieses Format für:

  • bestehende OpenAI-kompatible Chat-Integrationen
  • standardmäßigen Nachrichtenverlauf und Streaming
  • Funktionsaufrufe (Function Calling), die vom ausgewählten Modell unterstützt werden

Es gibt keine Garantie, dass Felder, die für ein anderes API-Format spezifisch sind, hier funktionieren.

Responses

Verwenden Sie Responses nur, wenn das ausgewählte Modell openai_responses in accepted_request_formats auflistet.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Explain why the sky is blue in two sentences.",
)

print(response.output_text)

Die Responses API unterstützt das Erstellen, Abrufen, Komprimieren, Löschen, Streaming, die WebSocket-Erstellung und -Fortsetzung sowie Hintergrundantworten, sofern das ausgewählte Modell diese unterstützt. Löschen entfernt eine gespeicherte Antwort; es bricht keine aktive Antwort ab.

Anthropic Messages

Verwenden Sie das Anthropic SDK mit dem TokenLab-Host, ohne /v1 an die Basis-URL anzuhängen.

import os
from anthropic import Anthropic

client = Anthropic(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh",
)

message = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=512,
    messages=[{"role": "user", "content": "Hello!"}],
)

print(message.content[0].text)

Wählen Sie Messages für Claude-spezifische Anfrage- und Antwortfelder. Behalten Sie Claude-Tool-Aufrufe, Thinking-Blöcke und Prompt-Cache-Felder in diesem Format bei.

Gemini

Gemini-Anfragen verwenden den TokenLab-Host und den Gemini REST-Pfad.

curl "https://api.tokenlab.sh/v1beta/models/gemini-3.6-flash:generateContent" \
  -H "Authorization: Bearer $TOKENLAB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "contents": [{"parts": [{"text": "Hello!"}]}]
  }'

Wählen Sie Gemini, wenn Ihre Anwendung bereits Gemini Content-Parts, Funktionsdeklarationen, Files, gecachte Inhalte oder andere Gemini-Felder verwendet. Sowohl lowerCamelCase ProtoJSON-Namen als auch die ursprünglichen snake_case Proto-Namen werden akzeptiert; vermeiden Sie es, beide Schreibweisen desselben Feldes in einer Anfrage zu senden.

Mischen Sie keine Formate innerhalb einer Konversation

Messages, Responses, Chat Completions und Gemini stellen den Konversationsstatus und Tool-Aufrufe unterschiedlich dar. Behalten Sie ein Format für eine Konversation bei. Wenn Sie einen gespeicherten Verlauf migrieren müssen, konvertieren und validieren Sie diesen in Ihrer Anwendung, bevor Sie die nächste Anfrage senden.

Unbekannte Felder

TokenLab leitet möglicherweise Felder weiter, die es nicht erkennt, aber das bedeutet nicht, dass jedes Modell diese akzeptiert. Eine Funktion ist nur dann sicher zu verwenden, wenn das ausgewählte Modell sie dokumentiert und Ihre Anwendung einen Fehler bei nicht unterstützten Feldern abfängt.

Verwandte Referenzen

Auf dieser Seite