TokenLab

네이티브 SDK

OpenAI SDK

공식 OpenAI SDK 및 OpenAI 호환 클라이언트와 함께 TokenLab 사용하기

개요

OpenAI SDK 클라이언트의 엔드포인트를 https://api.tokenlab.sh/v1로 설정하고 TokenLab API 키를 사용하세요. 애플리케이션에서 이미 사용 중인 API 메서드를 그대로 유지하고, 선택한 모델이 accepted_request_formats를 통해 해당 메서드를 지원하는지 확인하십시오.

Python, JavaScript, Go는 공식 OpenAI SDK를 제공합니다. PHP는 OpenAI 호환 커뮤니티 클라이언트와 잘 작동하지만, 공식 OpenAI SDK는 아닙니다.

설치

pip install openai

Responses 입력 항목, 도구 또는 연속 작업에는 POST /v1/responses를 사용하세요. 선택적 필드는 선택한 모델에 따라 다릅니다.

클라이언트 구성

from openai import OpenAI

client = OpenAI(
    api_key="sk-your-tokenlab-key",
    base_url="https://api.tokenlab.sh/v1",
)

권장 사항: Chat Completions

response = client.chat.completions.create(
    model="gpt-5.6-terra",
    messages=[{"role": "user", "content": "Reply with: Connected to TokenLab."}]
)

print(response.choices[0].message.content)

고급: Responses API

도구 또는 워크플로우가 OpenAI Responses 의미 체계에 명시적으로 의존하는 경우에만 이 경로를 사용하세요.

Responses를 사용한 스트리밍

stream = client.responses.create(
    model="gpt-5.6-terra",
    input="Write a short poem about coding.",
    stream=True,
)

for event in stream:
    if event.type == "response.output_text.delta":
        print(event.delta, end="")

도구 / 함수 호출 (Tools / Function Calling)

response = client.responses.create(
    model="gpt-5.6-terra",
    input="What's the weather in Tokyo?",
    tools=[{
        "type": "function",
        "name": "get_weather",
        "description": "Get weather for a location",
        "parameters": {
            "type": "object",
            "properties": {
                "location": {"type": "string"}
            },
            "required": ["location"]
        }
    }]
)

for item in response.output:
    if item.type == "function_call":
        print(item.name)
        print(item.arguments)

Responses를 사용한 비전 (Vision)

response = client.responses.create(
    model="gpt-5.6-terra",
    input=[{
        "role": "user",
        "content": [
            {"type": "input_text", "text": "What's in this image?"},
            {"type": "input_image", "image_url": "https://example.com/image.jpg"}
        ]
    }]
)

print(response.output_text)

임베딩 (Embeddings)

response = client.embeddings.create(
    model="text-embedding-3-small",
    input="Hello world"
)

print(response.data[0].embedding[:5])

문제 해결

이 페이지의 내용