TokenLab

Fichiers & lots

Créer un lot de messages

Crée un lot de requêtes de messages qui s'exécutent de manière asynchrone.

POST
/v1/messages/batches

Aperçu

Envoyez jusqu'à 100 000 requêtes de messages en un seul appel. Le lot s'exécute de manière asynchrone. La réponse est renvoyée immédiatement avec processing_status défini sur in_progress. Récupérez le lot jusqu'à ce qu'il soit ended, puis obtenez les résultats.

Remarques

  • Chaque élément dans requests possède un custom_id et des params. params accepte les mêmes champs que Créer un message, y compris max_tokens. Les éléments ne peuvent pas utiliser speed: "fast".
  • custom_id doit comporter de 1 à 64 lettres, chiffres, traits de soulignement ou tirets, et doit être unique au sein du lot.
  • Chaque modèle dans le lot doit être disponible pour les lots. TokenLab rejette l'intégralité de la requête avec une erreur 400 si ce n'est pas le cas, ou si aucune route unique ne peut servir tous les modèles du lot.
  • TokenLab réserve le coût estimé lorsqu'il accepte le lot et renvoie une erreur 402 si le solde ne peut pas le couvrir. Une fois le lot terminé, TokenLab règle l'utilisation des requêtes qui ont réussi. Les prix des lots peuvent différer des prix synchrones.
  • Si un élément fait référence au contenu d'un file_id, envoyez anthropic-beta: files-api-2025-04-14.
  • Envoyez un Idempotency-Key pour réessayer une requête de création ayant expiré en toute sécurité. Voir Réessayer en toute sécurité avec une clé d'idempotence.

Exemple

Requête

cURL
curl -X POST "https://api.tokenlab.sh/v1/messages/batches" \
  -H "x-api-key: sk-your-api-key" \
  -H "anthropic-version: 2023-06-01" \
  -H "Idempotency-Key: 6f1c2a9e-0b7d-4c1e-9a53-2d9f3a1b7c10" \
  -H "Content-Type: application/json" \
  -d '{
    "requests": [
      {
        "custom_id": "request-1",
        "params": {
          "model": "claude-sonnet-5",
          "max_tokens": 1024,
          "messages": [{"role": "user", "content": "Hello, Claude!"}]
        }
      },
      {
        "custom_id": "request-2",
        "params": {
          "model": "claude-sonnet-5",
          "max_tokens": 1024,
          "messages": [{"role": "user", "content": "Name three colors."}]
        }
      }
    ]
  }'

Exemple de réponse

Réponse

200 OK
{
  "id": "msgbatch_01ABC123",
  "type": "message_batch",
  "processing_status": "in_progress",
  "request_counts": {
    "processing": 2,
    "succeeded": 0,
    "errored": 0,
    "canceled": 0,
    "expired": 0
  },
  "ended_at": null,
  "created_at": "2026-11-01T10:00:00Z",
  "expires_at": "2026-11-02T10:00:00Z",
  "cancel_initiated_at": null,
  "archived_at": null,
  "results_url": null
}

Champs importants

idstring
ID du lot de messages. Utilisez-le pour récupérer, annuler ou supprimer le lot et pour obtenir ses résultats.
processing_statusstring
in_progress, canceling ou ended.
request_countsobject
Nombre de requêtes qui sont processing, succeeded, errored, canceled ou expired.
expires_atstring
Date d'expiration du lot. Les requêtes qui ne sont pas terminées à cette date seront marquées comme expired.
results_urlstring|null
URL des résultats. Elle est null tant que le lot n'est pas terminé.

Autorisation

BearerAuth
AuthorizationBearer <token>

Authentification par clé API. Créez ou gérez vos clés API dans Dashboard > API > API Keys.

Emplacement: header

En-têtes

X-TokenLab-Delivery-Policy?string

Politique de livraison par requête. Remplace les valeurs par défaut de la clé API et de l'espace de travail. Tente automatiquement TokenLab Verified en premier et peut basculer une fois vers Official uniquement avant la sortie, l'acceptation de la requête ou la création de ressource persistante.

Valeurs possibles

  • "auto"
  • "verified"
  • "official"
Idempotency-Key?string

Clé optionnelle qui permet de réessayer une requête de création en toute sécurité. Envoyez une nouvelle valeur unique, telle qu'un UUID, pour chaque tâche. Une tentative avec la même clé et le même corps renvoie le résultat de la requête de création initiale, généralement la tâche d'origine, et ne crée, ne distribue ni ne facture une seconde tâche. Un corps différent avec une clé déjà acceptée est rejeté avec 409. Une clé de plus de 255 caractères est ignorée, et la requête ne bénéficie alors d'aucune protection d'idempotence. Voir Réessayer en toute sécurité avec une clé d'idempotence.

Longueur1 <= length <= 255

Corps de la requête

application/json

Réponse

application/json

application/json

application/json

application/json

application/json

application/json

application/json

application/json

application/json

application/json

application/json