Dateien & Batch-Jobs

Message-Batch erstellen

Erstellt einen Batch von Messages-Anfragen, die asynchron ausgeführt werden.

POST
/v1/messages/batches

Übersicht

Senden Sie bis zu 100.000 Messages-Anfragen in einem einzigen Aufruf. Der Batch wird asynchron ausgeführt. Die Antwort erfolgt sofort, wobei processing_status auf in_progress gesetzt ist. Rufen Sie den Batch ab, bis er den Status ended erreicht hat, und holen Sie dann die Ergebnisse ab.

Hinweise

  • Jedes Element in requests verfügt über eine custom_id und params. params verwendet dieselben Felder wie Message erstellen, einschließlich max_tokens. Elemente können nicht speed: "fast" verwenden.
  • custom_id besteht aus 1 bis 64 Buchstaben, Ziffern, Unterstrichen oder Bindestrichen und muss innerhalb des Batches eindeutig sein.
  • Jedes Modell im Batch muss für Batches verfügbar sein. TokenLab lehnt die gesamte Anfrage mit 400 ab, wenn dies nicht der Fall ist oder wenn keine einzelne Route alle Modelle im Batch bedienen kann.
  • TokenLab reserviert die geschätzten Kosten bei Annahme des Batches und gibt 402 zurück, wenn das Guthaben nicht ausreicht. Nach Abschluss des Batches rechnet TokenLab die Nutzung der erfolgreichen Anfragen ab. Batch-Preise können von synchronen Preisen abweichen.
  • Wenn ein Element auf file_id-Inhalte verweist, senden Sie anthropic-beta: files-api-2025-04-14.
  • Senden Sie einen Idempotency-Key, um eine zeitlich abgelaufene Erstellungsanfrage sicher zu wiederholen. Siehe Sicheres Wiederholen mit einem Idempotency-Key.

Beispiel

Anfrage

cURL
curl -X POST "https://api.tokenlab.sh/v1/messages/batches" \
  -H "x-api-key: sk-your-api-key" \
  -H "anthropic-version: 2023-06-01" \
  -H "Idempotency-Key: 6f1c2a9e-0b7d-4c1e-9a53-2d9f3a1b7c10" \
  -H "Content-Type: application/json" \
  -d '{
    "requests": [
      {
        "custom_id": "request-1",
        "params": {
          "model": "claude-sonnet-5",
          "max_tokens": 1024,
          "messages": [{"role": "user", "content": "Hello, Claude!"}]
        }
      },
      {
        "custom_id": "request-2",
        "params": {
          "model": "claude-sonnet-5",
          "max_tokens": 1024,
          "messages": [{"role": "user", "content": "Name three colors."}]
        }
      }
    ]
  }'

Antwortbeispiel

Antwort

200 OK
{
  "id": "msgbatch_01ABC123",
  "type": "message_batch",
  "processing_status": "in_progress",
  "request_counts": {
    "processing": 2,
    "succeeded": 0,
    "errored": 0,
    "canceled": 0,
    "expired": 0
  },
  "ended_at": null,
  "created_at": "2026-11-01T10:00:00Z",
  "expires_at": "2026-11-02T10:00:00Z",
  "cancel_initiated_at": null,
  "archived_at": null,
  "results_url": null
}

Wichtige Felder

idstring
Message-Batch-ID. Verwenden Sie diese, um den Batch abzurufen, abzubrechen oder zu löschen sowie um die Ergebnisse zu erhalten.
processing_statusstring
in_progress, canceling oder ended.
request_countsobject
Anzahl der Anfragen, die processing, succeeded, errored, canceled oder expired sind.
expires_atstring
Zeitpunkt, zu dem der Batch abläuft. Anfragen, die bis dahin nicht abgeschlossen sind, enden als expired.
results_urlstring|null
URL der Ergebnisse. Sie ist null, bis der Batch beendet wurde.

Autorisierung

BearerAuth
AuthorizationBearer <token>

API-Key-Authentifizierung. Erstellen oder verwalten Sie API-Keys unter Dashboard > API > API Keys.

Ort: header

Header

X-TokenLab-Delivery-Policy?string

Zustellungsrichtlinie pro Anfrage. Überschreibt die API-Key- und Workspace-Standardeinstellungen. Versucht automatisch zuerst TokenLab Verified und kann vor der Ausgabe, der Annahme der Anfrage oder der Erstellung persistenter Ressourcen einmalig auf Official umstellen.

Zulässige Werte

  • "auto"
  • "verified"
  • "official"
Idempotency-Key?string

Optionaler Schlüssel, der eine Erstellungsanfrage sicher für Wiederholungsversuche macht. Senden Sie für jede Aufgabe einen neuen eindeutigen Wert, wie z. B. eine UUID. Ein Wiederholungsversuch mit demselben Schlüssel und demselben Body gibt das Ergebnis der ursprünglichen Erstellungsanfrage zurück, in der Regel die ursprüngliche Aufgabe, und erstellt, versendet oder berechnet keine zweite Aufgabe. Ein abweichender Body mit einem bereits akzeptierten Schlüssel wird mit 409 abgelehnt. Ein Schlüssel mit mehr als 255 Zeichen wird ignoriert, und die Anfrage verfügt dann über keinen Idempotenz-Schutz. Siehe Sichere Wiederholungsversuche mit einem Idempotenz-Schlüssel.

Länge1 <= length <= 255

Anfragekörper

application/json

Antwort

application/json

application/json

application/json

application/json

application/json

application/json

application/json

application/json

application/json

application/json

application/json