TokenLab

핵심 가이드

API 형식

Chat Completions, Responses, Messages 또는 Gemini 중에서 선택하세요

하나의 TokenLab API 키로 네 가지 공통 API 형식을 사용할 수 있습니다. 모델별 기능이 필요한 경우가 아니라면 애플리케이션에서 이미 사용 중인 형식을 그대로 유지하세요.

형식엔드포인트선택 기준
Chat Completions/v1/chat/completionsOpenAI 호환 채팅 클라이언트를 사용하거나 광범위한 모델 호환성이 필요한 경우
Responses/v1/responses애플리케이션이 Responses 이벤트, 백그라운드 응답 또는 Responses 도구를 사용하는 경우
Anthropic Messages/v1/messagesthinking 또는 Claude 도구 사용과 같은 Claude Messages 필드가 필요한 경우
Gemini/v1beta/models/:model:generateContent이미 Gemini contents, parts, files, cache 또는 Gemini 도구를 사용하는 경우

모델 페이지 또는 GET /v1/models/{model}에서 tokenlab.accepted_request_formats를 확인하세요. 모든 모델이 네 가지 형식을 모두 지원하는 것은 아닙니다.

Chat Completions

Chat Completions는 기존 OpenAI 호환 클라이언트 및 이식 가능한 채팅 기능을 위한 가장 쉬운 선택입니다.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="gpt-5.6-luna",
    messages=[{"role": "user", "content": "Hello!"}],
)

print(response.choices[0].message.content)

다음 경우에 이 형식을 사용하세요:

  • 기존 OpenAI 호환 채팅 통합
  • 표준 메시지 기록 및 스트리밍
  • 선택한 모델에서 지원하는 함수 호출(function calling)

다른 API 형식에만 있는 고유 필드는 여기에서 작동하지 않을 수 있습니다.

Responses

선택한 모델의 accepted_request_formats에 openai_responses가 나열된 경우에만 Responses를 사용하세요.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Explain why the sky is blue in two sentences.",
)

print(response.output_text)

Responses API는 선택한 모델이 지원하는 경우 생성, 검색, 압축, 삭제, 스트리밍, WebSocket 생성 및 지속, 백그라운드 응답을 지원합니다. 삭제(Delete)는 저장된 응답을 제거하며, 활성 응답을 취소하지는 않습니다.

Anthropic Messages

TokenLab 호스트와 함께 Anthropic SDK를 사용하되, 기본 URL에 /v1을 추가하지 마세요.

import os
from anthropic import Anthropic

client = Anthropic(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh",
)

message = client.messages.create(
    model="claude-sonnet-5",
    max_tokens=512,
    messages=[{"role": "user", "content": "Hello!"}],
)

print(message.content[0].text)

Claude 전용 요청 및 응답 필드가 필요한 경우 Messages를 선택하세요. Claude 도구 호출, thinking 블록, 프롬프트 캐시 필드는 이 형식을 유지하세요.

Gemini

Gemini 요청은 TokenLab 호스트와 Gemini REST 경로를 사용합니다.

curl "https://api.tokenlab.sh/v1beta/models/gemini-3.6-flash:generateContent" \
  -H "Authorization: Bearer $TOKENLAB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "contents": [{"parts": [{"text": "Hello!"}]}]
  }'

애플리케이션에서 이미 Gemini 콘텐츠 parts, 함수 선언, 파일, 캐시된 콘텐츠 또는 기타 Gemini 필드를 사용하는 경우 Gemini를 선택하세요. lowerCamelCase ProtoJSON 이름과 원본 snake_case proto 이름 모두 허용되지만, 동일한 필드를 두 가지 표기법으로 동시에 보내지 않도록 주의하세요.

하나의 대화에서 형식을 혼용하지 마세요

Messages, Responses, Chat Completions 및 Gemini는 대화 상태와 도구 호출을 다르게 표현합니다. 하나의 대화에는 하나의 형식만 유지하세요. 저장된 기록을 마이그레이션해야 하는 경우, 다음 요청을 보내기 전에 애플리케이션에서 변환 및 검증을 수행하세요.

알 수 없는 필드

TokenLab은 인식하지 못하는 필드를 그대로 전달할 수 있지만, 그렇다고 해서 모든 모델이 해당 필드를 수용한다는 의미는 아닙니다. 선택한 모델이 해당 기능을 문서화하고 애플리케이션이 지원되지 않는 필드 오류를 처리할 수 있을 때만 해당 기능에 의존하는 것이 안전합니다.

관련 참조

이 페이지의 내용