TokenLab

파일 및 배치

배치 생성

업로드된 JSONL 파일로부터 배치를 생성합니다.

POST
/v1/batches

개요

purpose=batch로 설정된 JSONL 파일을 업로드한 후, 해당 파일의 ID를 input_file_id로 사용합니다. 완료된 배치는 결과 파일 ID와 오류 파일 ID를 반환합니다.

참고 사항

  • 배치 입력 파일은 반드시 purpose=batch를 사용해야 합니다.
  • completion_window는 현재 24h로 고정되어 있습니다.
  • 출력 순서는 입력 순서와 다를 수 있습니다. 각 결과는 custom_id를 통해 매칭하십시오.
  • 배치 항목 내에서는 스트리밍이 지원되지 않습니다.
  • 지원되는 항목 엔드포인트는 /v1/chat/completions 및 /v1/embeddings입니다. /v1/responses는 지원되지 않습니다.

예시

요청

cURL
curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

배치 가격은 동기식 요청과 다를 수 있습니다. 배치 생성 시 표시되는 가격과 최종 청구 금액을 확인하십시오.

응답 예시

응답

200 OK
{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

주요 필드

idstring
배치 ID입니다.
statusstring
배치 상태입니다.
output_file_idstring|null
완료 후의 출력 파일 ID입니다.

인증

BearerAuth
AuthorizationBearer <token>

API 키 인증입니다. Dashboard > API > API Keys에서 API 키를 생성하거나 관리하십시오.

위치: header

헤더

X-TokenLab-Delivery-Policy?string

요청별 전송 정책입니다. API 키 및 Workspace 기본값을 재정의합니다. 자동으로 TokenLab Verified를 먼저 시도하며, 출력, 요청 수락 또는 영구 리소스 생성 전에 Official 전용으로 한 번 전환될 수 있습니다.

허용 값

  • "auto"
  • "verified"
  • "official"

요청 본문

application/json

응답

application/json

application/json

application/json

application/json

application/json