Batch erstellen

ÜbersichtCopy Anchor Link

Dieser Endpunkt ist Teil von TokenLab's OpenAI-kompatibler Batch-API. Batch-Jobs verwenden hochgeladene JSONL-Dateien, laufen asynchron und können später Ausgabedateien/Fehlerdateien zurückgeben.

HinweiseCopy Anchor Link

• Batch-Eingabedateien müssen purpose=batch verwenden.
• completion_window beträgt derzeit 24h.
• Die Ausgabereihenfolge ist nicht garantiert; immer nach custom_id abgleichen.
• Streaming wird innerhalb von Batch-Elementen nicht unterstützt.
• Unterstützte Endpunkte für Batch-Elemente sind /v1/chat/completions und /v1/embeddings. /v1/responses wird nicht unterstützt.

curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

Anfrage / AntwortCopy Anchor Link

Verwenden Sie das interaktive OpenAPI-Panel oben für das genaue Schema.

Betriebliche TippsCopy Anchor Link

• Verwenden Sie custom_id für idempotente nachgelagerte Abgleiche.
• Erwarten Sie output_file_id und error_file_id erst, nachdem der Worker den Batch abgeschlossen hat.

{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

Wichtige FelderCopy Anchor Link