파일 및 배치
배치 생성
업로드된 JSONL 파일로부터 배치를 생성합니다.
개요
purpose=batch로 JSONL 파일을 업로드한 다음, 해당 ID를 input_file_id로 사용합니다. 완료된 배치는 출력 및 오류 파일 ID를 반환합니다.
입력 파일
파일은 JSONL 형식입니다: 줄당 하나의 요청, 최대 50,000줄 및 200 MiB까지 가능합니다. /v1/embeddings의 경우, 모든 줄에 걸친 총 입력 개수도 50,000개로 제한됩니다. 각 줄에는 다음이 필요합니다:
custom_id: 파일 내에서 고유한 문자열.method:POST.url: 배치endpoint와 동일한 값.body:model을 포함한 요청 본문.
{"custom_id": "req-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "gpt-5.6-terra", "messages": [{"role": "user", "content": "Hello"}], "max_tokens": 100}}참고 사항
- 배치 입력 파일은 반드시
purpose=batch를 사용해야 합니다. completion_window는 기본값이자 유일한 값인24h입니다.metadata는 최대 16개의 문자열 쌍을 허용하며, 키는 최대 64자, 값은 최대 512자까지 가능합니다.output_expires_after는 결과 파일의 만료 시점을 설정합니다:anchor는created_at또는completed_at이며,seconds는 최대 30일까지 설정할 수 있습니다.- 출력 순서는 입력 순서와 다를 수 있습니다.
custom_id를 통해 각 결과를 매칭하십시오. - 배치 항목 내에서는 스트리밍이 지원되지 않습니다.
- 지원되는 항목 엔드포인트는
/v1/chat/completions및/v1/embeddings입니다./v1/responses는 지원되지 않습니다. - 배치 생성 시 예상 비용이 예약됩니다. 잔액이 부족하면
402오류가 반환됩니다. - 유효하지 않은 파일은
input_file_id가 설정된param과 함께400오류를 반환하며, 메시지에 해당 줄 번호가 표시됩니다.
예시
요청
curl -X POST "https://api.tokenlab.sh/v1/batches" \
-H "Authorization: Bearer sk-your-api-key" \
-H "Content-Type: application/json" \
-d '{
"input_file_id": "file_abc123",
"endpoint": "/v1/chat/completions",
"completion_window": "24h"
}'배치 가격은 동기식 요청과 다를 수 있습니다. 최종 청구서에서 요금을 확인하십시오.
응답
{
"id": "batch_abc123",
"object": "batch",
"endpoint": "/v1/chat/completions",
"input_file_id": "file_abc123",
"completion_window": "24h",
"status": "validating",
"output_file_id": null,
"error_file_id": null,
"created_at": 1706000000
}주요 필드
idstring
배치 ID.
statusstring
배치 상태.
output_file_idstring|null
완료 후 출력 파일 ID.
인증
BearerAuth AuthorizationBearer <token>
API 키 인증입니다. Dashboard > API > API Keys에서 API 키를 생성하거나 관리하십시오.
위치: header
헤더
X-TokenLab-Delivery-Policy?string
요청별 전송 정책입니다. API 키 및 Workspace 기본값을 재정의합니다. 자동으로 TokenLab Verified를 먼저 시도하며, 출력, 요청 수락 또는 영구 리소스 생성 전에 Official 전용으로 한 번 전환될 수 있습니다.
허용 값
- "auto"
- "verified"
- "official"
요청 본문
application/json
응답
application/json
application/json
application/json
application/json
application/json