Texte
Créer une complétion de chat
Crée une complétion pour le message de chat
Corps de la requête
Les paramètres optionnels pris en charge, les valeurs acceptées et les valeurs par défaut dépendent du modèle sélectionné. Consultez ses détails du modèle avant de définir les options d'échantillonnage, de raisonnement ou d'outils. Un paramètre que le modèle ne peut pas honorer, comme n supérieur à 1 sur certains modèles, est rejeté avec une erreur 4xx. Les contrôles d'échantillonnage mineurs tels que seed ou les pénalités peuvent être ignorés à la place.
ID du modèle à utiliser. Consultez Modèles pour les options disponibles.
Une liste de messages composant la conversation.
Chaque objet message contient :
role(string) :system,developer,user,assistant,tool,functioncontent(string | array | null) : Le contenu du message
Pour un message assistant contenant tool_calls, content peut être omis ou défini sur null.
Lorsque content est un tableau, TokenLab prend en charge les blocs multimodaux structurés pour les modèles compatibles :
- texte :
{ "type": "text", "text": "..." } - image :
{ "type": "image_url", "image_url": { "url": "https://..." } } - vidéo :
{ "type": "video_url", "video_url": { "url": "https://..." } } - audio :
{ "type": "input_audio", "input_audio": { "data": "https://... or base64 data URL", "format": "wav" } }, ou{ "type": "audio_url", "audio_url": { "url": "https://..." } }
Pour les entrées multimodales, utilisez des URL https publiquement accessibles. Les images peuvent également être envoyées sous forme d'URL de données base64. Les types de médias pris en charge dépendent du modèle sélectionné.
Température d'échantillonnage. La prise en charge, les valeurs autorisées et la valeur par défaut dépendent du modèle sélectionné ; omettez ce champ pour utiliser sa valeur par défaut.
Nombre maximal de tokens à générer. Envoyez soit max_tokens, soit max_completion_tokens, mais pas les deux : un modèle servi via un autre protocole peut rejeter une requête contenant les deux.
Sur un modèle qui réfléchit, les tokens de réflexion sont décomptés de cette limite. Si la limite est trop faible, la totalité du budget peut être consommée par la réflexion et laisser un corps de message vide, et les tokens utilisés sont tout de même facturés. Augmentez la limite ou désactivez la réflexion lorsque le modèle le permet, par exemple avec "reasoning_effort": "none". Sur deepseek-v4.1-flash (alias deepseek-flash), "thinking": {"type": "disabled"} la désactive également.
Avant l'exécution de la requête, TokenLab vérifie que votre solde couvre ce montant maximal. Une valeur très élevée peut renvoyer une erreur 402 si le solde est faible, même si la réponse est courte.
falseSi défini sur true, les deltas partiels des messages sont envoyés sous forme d'événements envoyés par le serveur (SSE). Consultez Streaming.
Pour les sorties longues (des milliers de tokens ou plus), définissez stream: true afin que les clients et les proxys n'atteignent pas de délai d'attente (timeout) en attendant la réponse complète.
Options pour le streaming. Définissez include_usage: true pour recevoir un chunk supplémentaire avec l'utilisation des tokens avant data: [DONE]. Sans cela, le flux ne transmet aucune information d'utilisation.
Paramètre d'échantillonnage par noyau (nucleus sampling). Nous recommandons de modifier ce paramètre ou la température, mais pas les deux.
Nombre entre -2,0 et 2,0. Les valeurs positives pénalisent les tokens répétés.
Nombre entre -2,0 et 2,0. Les valeurs positives pénalisent les tokens déjà présents dans le texte.
Séquence d'arrêt ou liste de séquences. La prise en charge et les limites de séquences dépendent du modèle sélectionné.
Une liste d'outils que le modèle peut appeler (appel de fonctions / function calling). Chaque outil est { "type": "function", "function": { "name": "...", "description": "...", "parameters": { ... } } }. Consultez Sorties structurées et appel d'outils.
Contrôle la façon dont le modèle utilise les outils. Options : auto, none, required ou { "type": "function", "function": { "name": "..." } } pour forcer un outil.
Autorise plusieurs appels d'outils en un seul tour de l'assistant, lorsque le modèle sélectionné le prend en charge.
Limite supérieure pour la complétion, incluant les tokens de réflexion. Alternative à max_tokens utilisée par les familles de modèles OpenAI plus récentes. N'envoyez que l'un des deux.
Effort de raisonnement pour les modèles qui le prennent en charge. Les valeurs acceptées dépendent du modèle sélectionné.
Pour les modèles Claude, la valeur configure la réflexion du modèle : un niveau d'effort sur les modèles avec réflexion adaptative, ou un budget de réflexion sur les modèles qui en utilisent un. none désactive la réflexion sur les modèles qui le permettent. Une valeur non prise en charge par le modèle est rejetée avec une erreur 400, code invalid_value, et l'erreur liste les valeurs prises en charge. Lorsque la réflexion est activée, Claude rejette une temperature différente de 1, top_k, un top_p en dehors de 0,95–1 et un message d'assistant pré-rempli. Un tool_choice forcé fonctionne avec la réflexion adaptative mais pas avec un budget de réflexion.
Options pour les modèles Claude.
prompt_caching(boolean) : Définissez surtruepour mettre en cache le début du prompt. TokenLab marque la fin du prompt système et le dernier message de l'utilisateur comme points de cache. Une requête ultérieure commençant par le même contenu le lira depuis le cache. Utilisez soit cette option, soit vos propres balisescache_control, mais pas les deux.prompt_caching_ttl(string) :5m(par défaut) ou1h. Lorsque le service qui traite la requête ne peut pas conserver de cache pendant une heure, TokenLab peut utiliser le cache de cinq minutes au lieu de rejeter la requête.
extra.prompt_caching et extra.prompt_caching_ttl sont acceptés comme étant les mêmes options. Consultez Mise en cache des prompts pour les tarifs et la façon de vérifier les tokens mis en cache.
Graine (seed) d'échantillonnage pour les modèles qui la prennent en charge. Une sortie identique n'est pas garantie.
Nombre de complétions à générer. Les modèles qui le prennent en charge acceptent entre 1 et 128. De nombreux modèles ne prennent en charge que 1.
Indique s'il faut renvoyer les probabilités logarithmiques (log probabilities).
Nombre de log probabilities supérieures à renvoyer (0-20). Nécessite logprobs: true.
Échantillonnage Top-K pour les modèles qui le prennent en charge.
Format de réponse. Utilisez {"type": "text"} (par défaut), {"type": "json_object"} pour le mode JSON, ou {"type": "json_schema", "json_schema": {"name": "...", "schema": {...}, "strict": true}} pour un schéma JSON. La prise en charge dépend du modèle sélectionné. Consultez Sorties structurées et appel d'outils.
Modifie la probabilité d'apparition de tokens spécifiés. Associe des ID de tokens (sous forme de chaînes) à des valeurs de biais comprises entre -100 et 100. La prise en charge dépend du modèle sélectionné.
TokenLab traite et facture les requêtes Chat au niveau de service standard. auto et default sont acceptés. Les autres valeurs, telles que flex ou priority, sont supprimées de la requête, et la requête est facturée au tarif standard.
Un identifiant unique représentant votre utilisateur final pour la surveillance des abus.
Réponse
Identifiant unique pour la complétion.
Toujours chat.completion.
Horodatage Unix du moment où la complétion a été créée.
Le modèle utilisé pour la complétion.
Liste des choix de complétion.
Chaque choix contient :
index(integer) : Index du choixmessage(object) : Le message généréfinish_reason(string) : La raison pour laquelle le modèle s'est arrêté, par exemplestop,length,tool_callsoucontent_filter
Lorsque le modèle réfléchit, message peut également contenir :
reasoning_content(string) : Le texte de réflexion. Certains modèles ne renvoient qu'un résumé, ou aucun texte.reasoning_details(array) : Blocs de réflexion avec leurs signatures. Pour poursuivre une conversation incluant la réflexion, par exemple après un appel d'outil, renvoyez-les inchangés dans le message de l'assistant.
Dans un flux (stream), les mêmes champs arrivent sous la forme delta.reasoning_content et delta.reasoning_details.
Statistiques d'utilisation des tokens.
prompt_tokens(integer) : Tokens dans le promptcompletion_tokens(integer) : Tokens dans la complétion, incluant les tokens de réflexiontotal_tokens(integer) : Nombre total de tokens utilisésprompt_tokens_details.cached_tokens(integer) : Tokens du prompt lus depuis le cachecache_creation_input_tokens(integer) : Tokens du prompt écrits dans le cache. Présent uniquement lorsque la valeur est supérieure à 0completion_tokens_details.reasoning_tokens(integer) : Tokens de réflexion, lorsque le modèle les signale
Dans un flux (stream), l'utilisation n'est transmise que si stream_options.include_usage est défini sur true.
Requête
curl -X POST "https://api.tokenlab.sh/v1/chat/completions" \
-H "Authorization: Bearer sk-your-api-key" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-5.6-terra",
"messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello!"}
],
"max_tokens": 1000
}'Exemple multimodal
{
"model": "gemini-2.5-pro",
"messages": [
{
"role": "user",
"content": [
{ "type": "text", "text": "Describe this video briefly." },
{ "type": "video_url", "video_url": { "url": "https://example.com/demo.mp4" } }
]
}
],
"max_tokens": 64
}Réponse
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1706000000,
"model": "gpt-5.6-terra",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "Hello! How can I help you today?"
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 20,
"completion_tokens": 9,
"total_tokens": 29
}
}Streaming
Avec stream: true, la réponse est un flux text/event-stream. Chaque événement est data: {...} avec un objet chat.completion.chunk dont choices[].delta transporte le nouveau texte, les arguments d'appel d'outil ou le texte de réflexion. Le flux se termine par data: [DONE]. Les lignes commençant par : sont des commentaires keep-alive : ignorez-les. Un flux qui se termine sans [DONE] ou sans finish_reason est incomplet. Consultez Streaming.
Erreurs
Les erreurs utilisent l'objet error au format OpenAI. Cas courants : 400 pour un champ non valide ou une valeur que le modèle n'accepte pas, 401 pour une clé non valide, 402 pour un solde insuffisant, 413 pour une entrée dépassant la limite de taille, et 429 pour la limite de débit (rate limit). Consultez Gérer les erreurs d'API.
Autorisation
BearerAuth Authentification par clé API. Créez ou gérez vos clés API dans Dashboard > API > API Keys.
Emplacement: header
En-têtes
Politique de livraison par requête. Remplace les valeurs par défaut de la clé API et de l'espace de travail. Tente automatiquement TokenLab Verified en premier et peut basculer une fois vers Official uniquement avant la sortie, l'acceptation de la requête ou la création de ressource persistante.
Valeurs possibles
- "auto"
- "verified"
- "official"
Clé optionnelle qui empêche une seconde exécution de la même requête. Envoyez une nouvelle valeur unique, telle qu'un UUID, pour chaque requête, et conservez-la pour les tentatives après un délai d'attente. Une tentative avec la même clé ne s'exécute pas à nouveau : elle renvoie 409 avec idempotency_replay_unavailable, ou généralement idempotency_conflict si le corps a été modifié. Exception : lorsqu'un résultat sans streaming est terminé après la déconnexion du client, une tentative avec la même clé et le même corps dans les 24 heures renvoie ce résultat (jusqu'à 1 Mo) avec l'en-tête Idempotent-Replayed: true sans facturation supplémentaire. Une clé de plus de 255 caractères est ignorée, et la requête ne bénéficie alors d'aucune protection d'idempotence. Voir Réessayer en toute sécurité avec une clé d'idempotence.
1 <= length <= 255Corps de la requête
application/json
Réponse
application/json
application/json
application/json
application/json
application/json
application/json
application/json