Créer un lot

AperçuCopy Anchor Link

Ce point de terminaison fait partie de l'API de lot compatible avec OpenAI de TokenLab. Les travaux de lot utilisent des fichiers JSONL téléchargés, s'exécutent de manière asynchrone et peuvent renvoyer des fichiers de sortie/d'erreur plus tard.

RemarquesCopy Anchor Link

• Les fichiers d'entrée de lot doivent utiliser purpose=batch.
• completion_window est actuellement 24h.
• L'ordre de sortie n'est pas garanti ; faites toujours correspondre par custom_id.
• Le streaming n'est pas pris en charge à l'intérieur des éléments de lot.
• Les points de terminaison pris en charge pour les éléments de lot sont /v1/chat/completions et /v1/embeddings. /v1/responses n’est pas pris en charge.

curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

Demande / RéponseCopy Anchor Link

Utilisez le panneau OpenAPI interactif ci-dessus pour le schéma exact.

Conseils opérationnelsCopy Anchor Link

• Utilisez custom_id pour la réconciliation idempotente en aval.
• Attendez-vous à ce que output_file_id et error_file_id ne soient disponibles qu'après que le travailleur finalise le lot.

{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

Champs importantsCopy Anchor Link