Criar Lote

Visão geralCopy Anchor Link

Envie um arquivo JSONL com purpose=batch e, em seguida, use seu ID como input_file_id. Lotes concluídos retornam IDs de arquivos de saída e de erro.

NotasCopy Anchor Link

• Os arquivos de entrada de lote devem usar purpose=batch.
• completion_window é atualmente 24h.
• A ordem de saída pode diferir da ordem de entrada. Corresponda cada resultado pelo custom_id.
• Streaming não é suportado dentro de itens de lote.
• Os endpoints de item suportados são /v1/chat/completions e /v1/embeddings. /v1/responses não é suportado.

ExemploCopy Anchor Link

curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

Os preços dos lotes podem diferir das requisições síncronas. Utilize o preço exibido ao criar o lote e na fatura final.

{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

Campos importantesCopy Anchor Link