Buat Batch

IkhtisarCopy Anchor Link

Endpoint ini adalah bagian dari API Batch yang kompatibel dengan OpenAI dari TokenLab. Pekerjaan batch menggunakan file JSONL yang diunggah, berjalan secara asinkron, dan dapat mengembalikan file output/error di kemudian hari.

CatatanCopy Anchor Link

• File input batch harus menggunakan purpose=batch.
• completion_window saat ini adalah 24h.
• Urutan output tidak dijamin; selalu cocokkan berdasarkan custom_id.
• Streaming tidak didukung di dalam item batch.
• Endpoint item batch yang didukung adalah /v1/chat/completions dan /v1/embeddings. /v1/responses tidak didukung.

curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

Permintaan / ResponsCopy Anchor Link

Gunakan panel OpenAPI interaktif di atas untuk skema yang tepat.

Tips OperasionalCopy Anchor Link

• Gunakan custom_id untuk rekonsiliasi downstream yang idempotent.
• Harapkan output_file_id dan error_file_id hanya setelah pekerja menyelesaikan batch.

{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

Field pentingCopy Anchor Link