Toplu İşlem (Batch) Oluşturma

Genel BakışCopy Anchor Link

purpose=batch ile bir JSONL dosyası yükleyin, ardından dosyanın ID'sini input_file_id olarak kullanın. Tamamlanan toplu işlemler, çıktı ve hata dosyası ID'lerini döndürür.

NotlarCopy Anchor Link

• Toplu işlem girdi dosyaları purpose=batch kullanmalıdır.
• completion_window şu anda 24h olarak belirlenmiştir.
• Çıktı sırası, girdi sırasından farklı olabilir. Her sonucu custom_id ile eşleştirin.
• Toplu işlem öğeleri içinde akış (streaming) desteklenmez.
• Desteklenen öğe uç noktaları /v1/chat/completions ve /v1/embeddings şeklindedir. /v1/responses desteklenmez.

ÖrnekCopy Anchor Link

curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

Toplu işlem fiyatları, senkron isteklerden farklı olabilir. Toplu işlemi oluştururken gösterilen fiyatı ve nihai faturayı dikkate alın.

{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

Önemli alanlarCopy Anchor Link