框架與平台
Opik
使用 Opik 追蹤 TokenLab 相容 OpenAI 的請求
概覽
將 OpenAI 客戶端指向 TokenLab,然後使用 Opik 包裝該客戶端以記錄呼叫。
安裝
pip install opik openai環境變數
export TOKENLAB_API_KEY="sk-your-tokenlab-key"
export OPIK_PROJECT_NAME="tokenlab-integration-demo"包裝 OpenAI 客戶端
在執行此範例之前請先設定 Opik:Opik Cloud 需要 OPIK_API_KEY,並在必要時設定 OPIK_WORKSPACE。對於現有的自架部署,請將 OPIK_URL_OVERRIDE 設定為其 API URL,例如 http://localhost:5173/api。請參閱 Opik 設定指南。
import os
from openai import OpenAI
from opik.integrations.openai import track_openai
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
openai_client = track_openai(client)記錄 Chat Completion
completion = openai_client.chat.completions.create(
model="claude-sonnet-5",
messages=[
{"role": "user", "content": "Summarize why LLM observability matters."}
],
)
print(completion.choices[0].message.content)端點注意事項
此設定會追蹤相容 OpenAI 的 SDK 路徑。如果您在 OpenAI SDK 之外使用 TokenLab 原生端點,請另外對該客戶端或工作流程進行檢測 (instrument)。