TokenLab

框架與平台

Opik

使用 Opik 追蹤 TokenLab 相容 OpenAI 的請求

概覽

將 OpenAI 客戶端指向 TokenLab,然後使用 Opik 包裝該客戶端以記錄呼叫。

安裝

pip install opik openai

環境變數

export TOKENLAB_API_KEY="sk-your-tokenlab-key"
export OPIK_PROJECT_NAME="tokenlab-integration-demo"

包裝 OpenAI 客戶端

在執行此範例之前請先設定 Opik:Opik Cloud 需要 OPIK_API_KEY,並在必要時設定 OPIK_WORKSPACE。對於現有的自架部署,請將 OPIK_URL_OVERRIDE 設定為其 API URL,例如 http://localhost:5173/api。請參閱 Opik 設定指南。

import os

from openai import OpenAI
from opik.integrations.openai import track_openai

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

openai_client = track_openai(client)

記錄 Chat Completion

completion = openai_client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[
        {"role": "user", "content": "Summarize why LLM observability matters."}
    ],
)

print(completion.choices[0].message.content)

端點注意事項

此設定會追蹤相容 OpenAI 的 SDK 路徑。如果您在 OpenAI SDK 之外使用 TokenLab 原生端點,請另外對該客戶端或工作流程進行檢測 (instrument)。

本頁內容