Dosyalar ve toplu işler
Toplu İşlem (Batch) Oluşturma
Yüklenmiş bir JSONL dosyasından toplu işlem oluşturun.
Genel Bakış
purpose=batch ile bir JSONL dosyası yükleyin, ardından dosyanın ID'sini input_file_id olarak kullanın. Tamamlanan toplu işlemler, çıktı ve hata dosyası ID'lerini döndürür.
Girdi dosyası
Dosya JSONL formatındadır: satır başına bir istek, en fazla 50.000 satır ve 200 MiB. /v1/embeddings için, tüm satırlardaki toplam girdi sayısı da 50.000 ile sınırlıdır. Her satır şunları içermelidir:
custom_id: dosya içinde benzersiz bir string.method:POST.url: toplu işlemendpointdeğeri ile aynı değer.body:modelbilgisini içeren istek gövdesi.
{"custom_id": "req-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "gpt-5.6-terra", "messages": [{"role": "user", "content": "Hello"}], "max_tokens": 100}}Notlar
- Toplu işlem girdi dosyaları
purpose=batchkullanmalıdır. completion_windowvarsayılan ve tek değer olan24h'dir.metadataen fazla 16 string çifti alır: anahtarlar en fazla 64 karakter, değerler en fazla 512 karakter olabilir.output_expires_after, sonuç dosyalarının ne zaman sona ereceğini belirler:anchordeğericreated_atveyacompleted_atolabilir vesecondsen fazla 30 gündür.- Çıktı sırası, girdi sırasından farklı olabilir. Her sonucu
custom_idile eşleştirin. - Toplu işlem öğeleri içinde streaming desteklenmez.
- Desteklenen öğe endpoint'leri
/v1/chat/completionsve/v1/embeddings'dir./v1/responsesdesteklenmez. - Tahmini maliyet, toplu işlem oluşturulduğunda rezerve edilir. Yetersiz bakiye durumunda
402hatası döner. - Geçersiz bir dosya,
paramalanıinput_file_idolarak ayarlanmış şekilde400hatası döndürür ve mesaj kısmında hatalı satır belirtilir.
Örnek
İstek
curl -X POST "https://api.tokenlab.sh/v1/batches" \
-H "Authorization: Bearer sk-your-api-key" \
-H "Content-Type: application/json" \
-d '{
"input_file_id": "file_abc123",
"endpoint": "/v1/chat/completions",
"completion_window": "24h"
}'Toplu işlem fiyatları, senkron isteklerden farklı olabilir. Ücretlendirme için nihai faturayı kontrol edin.
Yanıt
{
"id": "batch_abc123",
"object": "batch",
"endpoint": "/v1/chat/completions",
"input_file_id": "file_abc123",
"completion_window": "24h",
"status": "validating",
"output_file_id": null,
"error_file_id": null,
"created_at": 1706000000
}Önemli alanlar
Yetkilendirme
BearerAuth API Anahtarı kimlik doğrulaması. API anahtarlarını Dashboard > API > API Keys bölümünden oluşturun veya yönetin.
Konum: header
Başlıklar
İstek bazlı Teslimat politikası. API anahtarı ve Çalışma Alanı varsayılanlarını geçersiz kılar. Otomatik olarak önce TokenLab Verified dener ve çıktı, istek kabulü veya kalıcı kaynak oluşturma öncesinde bir kez Official seçeneğine geçiş yapabilir.
Geçerli değerler
- "auto"
- "verified"
- "official"
İstek gövdesi
application/json
Yanıt
application/json
application/json
application/json
application/json
application/json