TokenLab

Fichiers & lots

Créer un lot (Batch)

Créer un lot à partir d'un fichier JSONL téléchargé.

POST
/v1/batches

Aperçu

Téléchargez un fichier JSONL avec purpose=batch, puis utilisez son ID comme input_file_id. Les lots terminés renvoient les ID des fichiers de sortie et d'erreur.

Fichier d'entrée

Le fichier est au format JSONL : une requête par ligne, jusqu'à 50 000 lignes et 200 MiB. Pour /v1/embeddings, le nombre total d'entrées sur toutes les lignes est également limité à 50 000. Chaque ligne nécessite :

  • custom_id : une chaîne de caractères, unique dans le fichier.
  • method : POST.
  • url : la même valeur que le endpoint du lot.
  • body : le corps de la requête, avec model.
{"custom_id": "req-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "gpt-5.6-terra", "messages": [{"role": "user", "content": "Hello"}], "max_tokens": 100}}

Remarques

  • Les fichiers d'entrée de lot doivent utiliser purpose=batch.
  • completion_window est fixé à 24h, la valeur par défaut et unique.
  • metadata accepte jusqu'à 16 paires de chaînes : clés jusqu'à 64 caractères, valeurs jusqu'à 512.
  • output_expires_after définit quand les fichiers de résultat expirent : anchor est created_at ou completed_at, et seconds est au maximum de 30 jours.
  • L'ordre de sortie peut différer de l'ordre d'entrée. Faites correspondre chaque résultat via custom_id.
  • Le streaming n'est pas pris en charge à l'intérieur des éléments de lot.
  • Les endpoints d'éléments pris en charge sont /v1/chat/completions et /v1/embeddings. /v1/responses n'est pas pris en charge.
  • Le coût estimé est réservé lors de la création du lot. Un solde trop bas renvoie 402.
  • Un fichier invalide renvoie 400 avec param défini sur input_file_id, et le message indique la ligne concernée.

Exemple

Requête

cURL
curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

Les prix des lots peuvent différer des requêtes synchrones. Vérifiez la facture finale pour le montant débité.

Exemple de réponse

Réponse

200 OK
{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

Champs importants

idstring
ID du lot.
statusstring
Statut du lot.
output_file_idstring|null
ID du fichier de sortie après achèvement.

Autorisation

BearerAuth
AuthorizationBearer <token>

Authentification par clé API. Créez ou gérez vos clés API dans Dashboard > API > API Keys.

Emplacement: header

En-têtes

X-TokenLab-Delivery-Policy?string

Politique de livraison par requête. Remplace les valeurs par défaut de la clé API et de l'espace de travail. Tente automatiquement TokenLab Verified en premier et peut basculer une fois vers Official uniquement avant la sortie, l'acceptation de la requête ou la création de ressource persistante.

Valeurs possibles

  • "auto"
  • "verified"
  • "official"

Corps de la requête

application/json

Réponse

application/json

application/json

application/json

application/json

application/json