TokenLab

SDK gốc

OpenAI SDK

Sử dụng TokenLab với các OpenAI SDK chính thức và các client tương thích với OpenAI

Tổng quan

TokenLab hoạt động với các OpenAI SDK chính thức bằng cách trỏ client tới https://api.tokenlab.sh/v1.

Đối với hầu hết các dự án mới, ưu tiên Chat Completions làm đường dẫn tương thích OpenAI mặc định. Chỉ sử dụng Responses API khi bạn thực sự cần hành vi đặc thù của Responses.

Các trường riêng cho Responses không được đảm bảo sẽ hoạt động giống hệt trên mọi mô hình và đường dẫn được định tuyến.

Python, JavaScript và Go có các OpenAI SDK chính thức. PHP hoạt động tốt với các client cộng đồng tương thích OpenAI, nhưng nó không phải là một OpenAI SDK chính thức.

Loại: SDK gốc

Đường dẫn chính: Tương thích OpenAI / Chat Completions

Độ tin cậy hỗ trợ: Đường dẫn lõi được hỗ trợ

Cài đặt

pip install openai

Sử dụng POST /v1/responses chỉ khi bạn thực sự cần hành vi đặc thù của Responses. Một số trường chỉ dành cho Responses vẫn có thể phụ thuộc vào mô hình được chọn và đường dẫn được định tuyến.

Cấu hình Client

from openai import OpenAI

client = OpenAI(
    api_key="sk-your-tokenlab-key",
    base_url="https://api.tokenlab.sh/v1",
)

Khuyến nghị: Chat Completions

response = client.chat.completions.create(
    model="gpt-5.6-terra",
    messages=[{"role": "user", "content": "Reply with: Connected to TokenLab."}]
)

print(response.choices[0].message.content)

Nâng cao: Responses API

Sử dụng đường dẫn này chỉ khi công cụ hoặc quy trình làm việc của bạn phụ thuộc rõ ràng vào ngữ nghĩa của OpenAI Responses.

Streaming với Responses

stream = client.responses.create(
    model="gpt-5.6-terra",
    input="Write a short poem about coding.",
    stream=True,
)

for event in stream:
    if event.type == "response.output_text.delta":
        print(event.delta, end="")

Công cụ / Gọi hàm

response = client.responses.create(
    model="gpt-5.6-terra",
    input="What's the weather in Tokyo?",
    tools=[{
        "type": "function",
        "name": "get_weather",
        "description": "Get weather for a location",
        "parameters": {
            "type": "object",
            "properties": {
                "location": {"type": "string"}
            },
            "required": ["location"]
        }
    }]
)

for item in response.output:
    if item.type == "function_call":
        print(item.name)
        print(item.arguments)

Vision với Responses

response = client.responses.create(
    model="gpt-5.6-terra",
    input=[{
        "role": "user",
        "content": [
            {"type": "input_text", "text": "What's in this image?"},
            {"type": "input_image", "image_url": "https://example.com/image.jpg"}
        ]
    }]
)

print(response.output_text)

Embeddings

response = client.embeddings.create(
    model="text-embedding-3-small",
    input="Hello world"
)

print(response.data[0].embedding[:5])

Chat Completions

Chat Completions là đường dẫn tương thích OpenAI mặc định cho TokenLab:

response = client.chat.completions.create(
    model="gpt-5.6-terra",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Hello!"}
    ]
)

print(response.choices[0].message.content)

Khắc phục sự cố

Trên trang này