Dosyalar ve toplu işler

Toplu İşlem (Batch) Oluşturma

Yüklenmiş bir JSONL dosyasından toplu işlem oluşturun.

POST
/v1/batches

Genel Bakış

purpose=batch ile bir JSONL dosyası yükleyin, ardından dosyanın ID'sini input_file_id olarak kullanın. Tamamlanan toplu işlemler, çıktı ve hata dosyası ID'lerini döndürür.

Girdi dosyası

Dosya JSONL formatındadır: satır başına bir istek, en fazla 50.000 satır ve 200 MiB. /v1/embeddings için, tüm satırlardaki toplam girdi sayısı da 50.000 ile sınırlıdır. Her satır şunları içermelidir:

  • custom_id: dosya içinde benzersiz bir string.
  • method: POST.
  • url: toplu işlem endpoint değeri ile aynı değer.
  • body: model bilgisini içeren istek gövdesi.
{"custom_id": "req-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "gpt-5.6-terra", "messages": [{"role": "user", "content": "Hello"}], "max_tokens": 100}}

Notlar

  • Toplu işlem girdi dosyaları purpose=batch kullanmalıdır.
  • completion_window varsayılan ve tek değer olan 24h'dir.
  • metadata en fazla 16 string çifti alır: anahtarlar en fazla 64 karakter, değerler en fazla 512 karakter olabilir.
  • output_expires_after, sonuç dosyalarının ne zaman sona ereceğini belirler: anchor değeri created_at veya completed_at olabilir ve seconds en fazla 30 gündür.
  • Çıktı sırası, girdi sırasından farklı olabilir. Her sonucu custom_id ile eşleştirin.
  • Toplu işlem öğeleri içinde streaming desteklenmez.
  • Desteklenen öğe endpoint'leri /v1/chat/completions ve /v1/embeddings'dir. /v1/responses desteklenmez.
  • Tahmini maliyet, toplu işlem oluşturulduğunda rezerve edilir. Yetersiz bakiye durumunda 402 hatası döner.
  • Geçersiz bir dosya, param alanı input_file_id olarak ayarlanmış şekilde 400 hatası döndürür ve mesaj kısmında hatalı satır belirtilir.

Örnek

İstek

cURL
curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

Toplu işlem fiyatları, senkron isteklerden farklı olabilir. Ücretlendirme için nihai faturayı kontrol edin.

Yanıt örneği

Yanıt

200 OK
{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

Önemli alanlar

idstring
Toplu işlem ID'si.
statusstring
Toplu işlem durumu.
output_file_idstring|null
Tamamlanma sonrası çıktı dosyası ID'si.

Yetkilendirme

BearerAuth
AuthorizationBearer <token>

API Anahtarı kimlik doğrulaması. API anahtarlarını Dashboard > API > API Keys bölümünden oluşturun veya yönetin.

Konum: header

Başlıklar

X-TokenLab-Delivery-Policy?string

İstek bazlı Teslimat politikası. API anahtarı ve Çalışma Alanı varsayılanlarını geçersiz kılar. Otomatik olarak önce TokenLab Verified dener ve çıktı, istek kabulü veya kalıcı kaynak oluşturma öncesinde bir kez Official seçeneğine geçiş yapabilir.

Geçerli değerler

  • "auto"
  • "verified"
  • "official"

İstek gövdesi

application/json

Yanıt

application/json

application/json

application/json

application/json

application/json