Dateien & Batch-Jobs
Message-Batch erstellen
Erstellt einen Batch von Messages-Anfragen, die asynchron ausgeführt werden.
Übersicht
Senden Sie bis zu 100.000 Messages-Anfragen in einem einzigen Aufruf. Der Batch wird asynchron ausgeführt. Die Antwort erfolgt sofort, wobei processing_status auf in_progress gesetzt ist. Rufen Sie den Batch ab, bis er den Status ended erreicht hat, und holen Sie dann die Ergebnisse ab.
Hinweise
- Jedes Element in
requestsverfügt über einecustom_idundparams.paramsverwendet dieselben Felder wie Message erstellen, einschließlichmax_tokens. Elemente können nichtspeed: "fast"verwenden. custom_idbesteht aus 1 bis 64 Buchstaben, Ziffern, Unterstrichen oder Bindestrichen und muss innerhalb des Batches eindeutig sein.- Jedes Modell im Batch muss für Batches verfügbar sein. TokenLab lehnt die gesamte Anfrage mit
400ab, wenn dies nicht der Fall ist oder wenn keine einzelne Route alle Modelle im Batch bedienen kann. - TokenLab reserviert die geschätzten Kosten bei Annahme des Batches und gibt
402zurück, wenn das Guthaben nicht ausreicht. Nach Abschluss des Batches rechnet TokenLab die Nutzung der erfolgreichen Anfragen ab. Batch-Preise können von synchronen Preisen abweichen. - Wenn ein Element auf
file_id-Inhalte verweist, senden Sieanthropic-beta: files-api-2025-04-14. - Senden Sie einen
Idempotency-Key, um eine zeitlich abgelaufene Erstellungsanfrage sicher zu wiederholen. Siehe Sicheres Wiederholen mit einem Idempotency-Key.
Anfrage
curl -X POST "https://api.tokenlab.sh/v1/messages/batches" \
-H "x-api-key: sk-your-api-key" \
-H "anthropic-version: 2023-06-01" \
-H "Idempotency-Key: 6f1c2a9e-0b7d-4c1e-9a53-2d9f3a1b7c10" \
-H "Content-Type: application/json" \
-d '{
"requests": [
{
"custom_id": "request-1",
"params": {
"model": "claude-sonnet-5",
"max_tokens": 1024,
"messages": [{"role": "user", "content": "Hello, Claude!"}]
}
},
{
"custom_id": "request-2",
"params": {
"model": "claude-sonnet-5",
"max_tokens": 1024,
"messages": [{"role": "user", "content": "Name three colors."}]
}
}
]
}'Antwort
{
"id": "msgbatch_01ABC123",
"type": "message_batch",
"processing_status": "in_progress",
"request_counts": {
"processing": 2,
"succeeded": 0,
"errored": 0,
"canceled": 0,
"expired": 0
},
"ended_at": null,
"created_at": "2026-11-01T10:00:00Z",
"expires_at": "2026-11-02T10:00:00Z",
"cancel_initiated_at": null,
"archived_at": null,
"results_url": null
}Wichtige Felder
in_progress, canceling oder ended.processing, succeeded, errored, canceled oder expired sind.expired.null, bis der Batch beendet wurde.Autorisierung
BearerAuth API-Key-Authentifizierung. Erstellen oder verwalten Sie API-Keys unter Dashboard > API > API Keys.
Ort: header
Header
Zustellungsrichtlinie pro Anfrage. Überschreibt die API-Key- und Workspace-Standardeinstellungen. Versucht automatisch zuerst TokenLab Verified und kann vor der Ausgabe, der Annahme der Anfrage oder der Erstellung persistenter Ressourcen einmalig auf Official umstellen.
Zulässige Werte
- "auto"
- "verified"
- "official"
Optionaler Schlüssel, der eine Erstellungsanfrage sicher für Wiederholungsversuche macht. Senden Sie für jede Aufgabe einen neuen eindeutigen Wert, wie z. B. eine UUID. Ein Wiederholungsversuch mit demselben Schlüssel und demselben Body gibt das Ergebnis der ursprünglichen Erstellungsanfrage zurück, in der Regel die ursprüngliche Aufgabe, und erstellt, versendet oder berechnet keine zweite Aufgabe. Ein abweichender Body mit einem bereits akzeptierten Schlüssel wird mit 409 abgelehnt. Ein Schlüssel mit mehr als 255 Zeichen wird ignoriert, und die Anfrage verfügt dann über keinen Idempotenz-Schutz. Siehe Sichere Wiederholungsversuche mit einem Idempotenz-Schlüssel.
1 <= length <= 255Anfragekörper
application/json
Antwort
application/json
application/json
application/json
application/json
application/json
application/json
application/json
application/json
application/json
application/json
application/json