Crear lote

Descripción generalCopy Anchor Link

Cargue un archivo JSONL con purpose=batch y luego utilice su ID como input_file_id. Los lotes completados devuelven los ID de los archivos de salida y de error.

NotasCopy Anchor Link

• Los archivos de entrada de lote deben usar purpose=batch.
• completion_window es actualmente 24h.
• El orden de salida puede diferir del orden de entrada. Haga coincidir cada resultado mediante custom_id.
• El streaming no es compatible dentro de los elementos del lote.
• Los endpoints de elementos admitidos son /v1/chat/completions y /v1/embeddings. /v1/responses no es compatible.

EjemploCopy Anchor Link

curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

Los precios de los lotes pueden diferir de las solicitudes síncronas. Utilice el precio mostrado al crear el lote y en la factura final.

{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

Campos importantesCopy Anchor Link