Tạo Lô

Tổng QuanCopy Anchor Link

Điểm cuối này là một phần của API Lô tương thích với OpenAI của TokenLab. Các công việc lô sử dụng các tệp JSONL đã tải lên, chạy không đồng bộ và có thể trả về các tệp đầu ra/lỗi sau.

Ghi ChúCopy Anchor Link

• Các tệp đầu vào lô phải sử dụng purpose=batch.
• completion_window hiện tại là 24h.
• Thứ tự đầu ra không được đảm bảo; luôn khớp theo custom_id.
• Streaming không được hỗ trợ bên trong các mục lô.
• Các endpoint được hỗ trợ cho mục lô là /v1/chat/completions và /v1/embeddings. Không hỗ trợ /v1/responses.

curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

Yêu Cầu / Phản HồiCopy Anchor Link

Sử dụng bảng điều khiển OpenAPI tương tác ở trên để có sơ đồ chính xác.

Mẹo Vận HànhCopy Anchor Link

• Sử dụng custom_id cho việc đối chiếu không thay đổi ở phía hạ nguồn.
• Mong đợi output_file_id và error_file_id chỉ sau khi công nhân hoàn tất lô.

{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

Trường quan trọngCopy Anchor Link