Guides essentiels
Formats d'API
Choisissez entre Chat Completions, Responses, Messages ou Gemini
Une clé API TokenLab fonctionne avec quatre formats d'API courants. Conservez le format que votre application utilise déjà, sauf si vous avez besoin d'une fonctionnalité spécifique à un modèle.
| Format | Endpoint | Choisissez-le lorsque |
|---|---|---|
| Chat Completions | /v1/chat/completions | Vous utilisez un client de chat compatible OpenAI ou souhaitez une large compatibilité de modèles |
| Responses | /v1/responses | Votre application utilise des événements Responses, des réponses en arrière-plan ou des outils Responses |
| Anthropic Messages | /v1/messages | Vous avez besoin de champs Claude Messages tels que le raisonnement (thinking) ou l'utilisation d'outils Claude |
| Gemini | /v1beta/models/:model:generateContent | Vous utilisez déjà des contents, parts, files, cache ou outils Gemini |
Vérifiez tokenlab.accepted_request_formats sur la page du modèle ou via GET /v1/models/{model}. Un modèle n'accepte pas nécessairement les quatre formats.
Chat Completions
Chat Completions est le choix le plus simple pour les clients existants compatibles avec OpenAI et les fonctionnalités de chat portables.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="gpt-5.6-luna",
messages=[{"role": "user", "content": "Hello!"}],
)
print(response.choices[0].message.content)Utilisez ce format pour :
- les intégrations de chat existantes compatibles avec OpenAI
- l'historique des messages standard et le streaming
- l'appel de fonctions (function calling) pris en charge par le modèle sélectionné
Les champs uniques à un autre format d'API ne sont pas garantis de fonctionner ici.
Responses
Utilisez Responses uniquement lorsque le modèle sélectionné liste openai_responses dans accepted_request_formats.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.responses.create(
model="gpt-5.6-terra",
input="Explain why the sky is blue in two sentences.",
)
print(response.output_text)L'API Responses prend en charge la création, la récupération, la compression, la suppression, le streaming, la création et la continuation de WebSocket, ainsi que les réponses en arrière-plan lorsque le modèle sélectionné les prend en charge. La suppression retire une réponse stockée ; elle n'annule pas une réponse active.
Anthropic Messages
Utilisez le SDK Anthropic avec l'hôte TokenLab, sans ajouter /v1 à l'URL de base.
import os
from anthropic import Anthropic
client = Anthropic(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh",
)
message = client.messages.create(
model="claude-sonnet-5",
max_tokens=512,
messages=[{"role": "user", "content": "Hello!"}],
)
print(message.content[0].text)Choisissez Messages pour les champs de requête et de réponse spécifiques à Claude. Conservez les appels d'outils Claude, les blocs de raisonnement (thinking blocks) et les champs de cache de prompt dans ce format.
Gemini
Les requêtes Gemini utilisent l'hôte TokenLab et le chemin REST Gemini.
curl "https://api.tokenlab.sh/v1beta/models/gemini-3.6-flash:generateContent" \
-H "Authorization: Bearer $TOKENLAB_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"contents": [{"parts": [{"text": "Hello!"}]}]
}'Choisissez Gemini lorsque votre application utilise déjà des parties de contenu Gemini, des déclarations de fonctions, des fichiers, du contenu mis en cache ou d'autres champs Gemini. Les noms ProtoJSON en lowerCamelCase et les noms proto originaux en snake_case sont acceptés ; évitez d'envoyer les deux orthographes du même champ dans une seule requête.
Ne mélangez pas les formats dans une même conversation
Messages, Responses, Chat Completions et Gemini représentent l'état de la conversation et les appels d'outils différemment. Conservez un seul format pour une conversation donnée. Si vous devez migrer un historique stocké, convertissez-le et validez-le dans votre application avant d'envoyer la requête suivante.
Champs inconnus
TokenLab peut transmettre des champs qu'il ne reconnaît pas, mais cela ne signifie pas que chaque modèle les accepte. Il est sûr de dépendre d'une fonctionnalité uniquement lorsque le modèle sélectionné la documente et que votre application gère une erreur de champ non pris en charge.