Fichiers & lots
Créer un lot (Batch)
Créer un lot à partir d'un fichier JSONL téléchargé.
Aperçu
Téléchargez un fichier JSONL avec purpose=batch, puis utilisez son ID comme input_file_id. Les lots terminés renvoient les ID des fichiers de sortie et d'erreur.
Fichier d'entrée
Le fichier est au format JSONL : une requête par ligne, jusqu'à 50 000 lignes et 200 MiB. Pour /v1/embeddings, le nombre total d'entrées sur toutes les lignes est également limité à 50 000. Chaque ligne nécessite :
custom_id: une chaîne de caractères, unique dans le fichier.method:POST.url: la même valeur que leendpointdu lot.body: le corps de la requête, avecmodel.
{"custom_id": "req-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "gpt-5.6-terra", "messages": [{"role": "user", "content": "Hello"}], "max_tokens": 100}}Remarques
- Les fichiers d'entrée de lot doivent utiliser
purpose=batch. completion_windowest fixé à24h, la valeur par défaut et unique.metadataaccepte jusqu'à 16 paires de chaînes : clés jusqu'à 64 caractères, valeurs jusqu'à 512.output_expires_afterdéfinit quand les fichiers de résultat expirent :anchorestcreated_atoucompleted_at, etsecondsest au maximum de 30 jours.- L'ordre de sortie peut différer de l'ordre d'entrée. Faites correspondre chaque résultat via
custom_id. - Le streaming n'est pas pris en charge à l'intérieur des éléments de lot.
- Les endpoints d'éléments pris en charge sont
/v1/chat/completionset/v1/embeddings./v1/responsesn'est pas pris en charge. - Le coût estimé est réservé lors de la création du lot. Un solde trop bas renvoie
402. - Un fichier invalide renvoie
400avecparamdéfini surinput_file_id, et le message indique la ligne concernée.
Exemple
Requête
curl -X POST "https://api.tokenlab.sh/v1/batches" \
-H "Authorization: Bearer sk-your-api-key" \
-H "Content-Type: application/json" \
-d '{
"input_file_id": "file_abc123",
"endpoint": "/v1/chat/completions",
"completion_window": "24h"
}'Les prix des lots peuvent différer des requêtes synchrones. Vérifiez la facture finale pour le montant débité.
Réponse
{
"id": "batch_abc123",
"object": "batch",
"endpoint": "/v1/chat/completions",
"input_file_id": "file_abc123",
"completion_window": "24h",
"status": "validating",
"output_file_id": null,
"error_file_id": null,
"created_at": 1706000000
}Champs importants
Autorisation
BearerAuth Authentification par clé API. Créez ou gérez vos clés API dans Dashboard > API > API Keys.
Emplacement: header
En-têtes
Politique de livraison par requête. Remplace les valeurs par défaut de la clé API et de l'espace de travail. Tente automatiquement TokenLab Verified en premier et peut basculer une fois vers Official uniquement avant la sortie, l'acceptation de la requête ou la création de ressource persistante.
Valeurs possibles
- "auto"
- "verified"
- "official"
Corps de la requête
application/json
Réponse
application/json
application/json
application/json
application/json
application/json