Dateien & Batch-Jobs

Batch erstellen

Erstellen Sie einen Batch aus einer hochgeladenen JSONL-Datei.

POST
/v1/batches

Übersicht

Laden Sie eine JSONL-Datei mit purpose=batch hoch und verwenden Sie deren ID als input_file_id. Abgeschlossene Batches geben IDs für Ausgabe- und Fehlerdateien zurück.

Eingabedatei

Die Datei ist im JSONL-Format: eine Anfrage pro Zeile, bis zu 50.000 Zeilen und 200 MiB. Für /v1/embeddings ist die Gesamtzahl der Eingaben über alle Zeilen hinweg ebenfalls auf 50.000 begrenzt. Jede Zeile benötigt:

  • custom_id: ein String, eindeutig innerhalb der Datei.
  • method: POST.
  • url: derselbe Wert wie der Batch-endpoint.
  • body: der Request-Body, inklusive model.
{"custom_id": "req-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "gpt-5.6-terra", "messages": [{"role": "user", "content": "Hello"}], "max_tokens": 100}}

Hinweise

  • Batch-Eingabedateien müssen purpose=batch verwenden.
  • completion_window ist 24h, der Standardwert und einzige verfügbare Wert.
  • metadata akzeptiert bis zu 16 String-Paare: Schlüssel bis zu 64 Zeichen, Werte bis zu 512.
  • output_expires_after legt fest, wann die Ergebnisdateien ablaufen: anchor ist created_at oder completed_at, und seconds beträgt maximal 30 Tage.
  • Die Ausgabereihenfolge kann von der Eingabereihenfolge abweichen. Ordnen Sie jedes Ergebnis über die custom_id zu.
  • Streaming wird innerhalb von Batch-Elementen nicht unterstützt.
  • Unterstützte Endpunkte für Elemente sind /v1/chat/completions und /v1/embeddings. /v1/responses wird nicht unterstützt.
  • Die geschätzten Kosten werden bei der Erstellung des Batches reserviert. Ein zu niedriges Guthaben führt zu einem 402-Fehler.
  • Eine ungültige Datei führt zu einem 400-Fehler, wobei param auf input_file_id gesetzt ist und die Nachricht die betroffene Zeile nennt.

Beispiel

Anfrage

cURL
curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

Batch-Preise können von synchronen Anfragen abweichen. Überprüfen Sie die endgültige Abrechnung für die Kosten.

Antwortbeispiel

Antwort

200 OK
{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

Wichtige Felder

idstring
Batch-ID.
statusstring
Batch-Status.
output_file_idstring|null
ID der Ausgabedatei nach Abschluss.

Autorisierung

BearerAuth
AuthorizationBearer <token>

API-Key-Authentifizierung. Erstellen oder verwalten Sie API-Keys unter Dashboard > API > API Keys.

Ort: header

Header

X-TokenLab-Delivery-Policy?string

Zustellungsrichtlinie pro Anfrage. Überschreibt die API-Key- und Workspace-Standardeinstellungen. Versucht automatisch zuerst TokenLab Verified und kann vor der Ausgabe, der Annahme der Anfrage oder der Erstellung persistenter Ressourcen einmalig auf Official umstellen.

Zulässige Werte

  • "auto"
  • "verified"
  • "official"

Anfragekörper

application/json

Antwort

application/json

application/json

application/json

application/json

application/json