TokenLab

파일 및 배치

배치 생성

업로드된 JSONL 파일로부터 배치를 생성합니다.

POST
/v1/batches

개요

purpose=batch로 JSONL 파일을 업로드한 다음, 해당 ID를 input_file_id로 사용합니다. 완료된 배치는 출력 및 오류 파일 ID를 반환합니다.

입력 파일

파일은 JSONL 형식입니다: 줄당 하나의 요청, 최대 50,000줄 및 200 MiB까지 가능합니다. /v1/embeddings의 경우, 모든 줄에 걸친 총 입력 개수도 50,000개로 제한됩니다. 각 줄에는 다음이 필요합니다:

  • custom_id: 파일 내에서 고유한 문자열.
  • method: POST.
  • url: 배치 endpoint와 동일한 값.
  • body: model을 포함한 요청 본문.
{"custom_id": "req-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "gpt-5.6-terra", "messages": [{"role": "user", "content": "Hello"}], "max_tokens": 100}}

참고 사항

  • 배치 입력 파일은 반드시 purpose=batch를 사용해야 합니다.
  • completion_window는 기본값이자 유일한 값인 24h입니다.
  • metadata는 최대 16개의 문자열 쌍을 허용하며, 키는 최대 64자, 값은 최대 512자까지 가능합니다.
  • output_expires_after는 결과 파일의 만료 시점을 설정합니다: anchor는 created_at 또는 completed_at이며, seconds는 최대 30일까지 설정할 수 있습니다.
  • 출력 순서는 입력 순서와 다를 수 있습니다. custom_id를 통해 각 결과를 매칭하십시오.
  • 배치 항목 내에서는 스트리밍이 지원되지 않습니다.
  • 지원되는 항목 엔드포인트는 /v1/chat/completions 및 /v1/embeddings입니다. /v1/responses는 지원되지 않습니다.
  • 배치 생성 시 예상 비용이 예약됩니다. 잔액이 부족하면 402 오류가 반환됩니다.
  • 유효하지 않은 파일은 input_file_id가 설정된 param과 함께 400 오류를 반환하며, 메시지에 해당 줄 번호가 표시됩니다.

예시

요청

cURL
curl -X POST "https://api.tokenlab.sh/v1/batches" \
  -H "Authorization: Bearer sk-your-api-key" \
  -H "Content-Type: application/json" \
  -d '{
    "input_file_id": "file_abc123",
    "endpoint": "/v1/chat/completions",
    "completion_window": "24h"
  }'

배치 가격은 동기식 요청과 다를 수 있습니다. 최종 청구서에서 요금을 확인하십시오.

응답 예시

응답

200 OK
{
  "id": "batch_abc123",
  "object": "batch",
  "endpoint": "/v1/chat/completions",
  "input_file_id": "file_abc123",
  "completion_window": "24h",
  "status": "validating",
  "output_file_id": null,
  "error_file_id": null,
  "created_at": 1706000000
}

주요 필드

idstring
배치 ID.
statusstring
배치 상태.
output_file_idstring|null
완료 후 출력 파일 ID.

인증

BearerAuth
AuthorizationBearer <token>

API 키 인증입니다. Dashboard > API > API Keys에서 API 키를 생성하거나 관리하십시오.

위치: header

헤더

X-TokenLab-Delivery-Policy?string

요청별 전송 정책입니다. API 키 및 Workspace 기본값을 재정의합니다. 자동으로 TokenLab Verified를 먼저 시도하며, 출력, 요청 수락 또는 영구 리소스 생성 전에 Official 전용으로 한 번 전환될 수 있습니다.

허용 값

  • "auto"
  • "verified"
  • "official"

요청 본문

application/json

응답

application/json

application/json

application/json

application/json

application/json