框架與平台
Phoenix
使用 Arize Phoenix 追蹤 TokenLab OpenAI 相容請求
概覽
Phoenix 可以記錄 Base URL 指向 TokenLab 的 OpenAI Python 客戶端呼叫。
安裝
pip install arize-phoenix openinference-instrumentation-openai openai環境變數
export TOKENLAB_API_KEY="sk-your-tokenlab-key"註冊 Phoenix
在執行此範例之前,請先在本地啟動 Phoenix 或使用現有的部署。預設情況下,register() 會將追蹤資料發送到位於 http://localhost:4317 的本地 OTLP/gRPC 收集器。若要使用其他部署,請參考 Phoenix 設定指南 來設定收集器端點與驗證。安裝 SDK 並不會自動啟動收集器。
from phoenix.otel import register
tracer_provider = register(
project_name="tokenlab-app",
auto_instrument=True,
)呼叫 TokenLab
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Write a short haiku."}],
)
print(response.choices[0].message.content)端點注意事項
Phoenix 會追蹤 OpenAI SDK 的呼叫路徑。請使用此頁面進行 Chat Completions 風格的 TokenLab 呼叫。如果您的應用程式檢測(instrumentation)能夠捕捉您用於這些請求的客戶端,那麼其他的 TokenLab 原生端點仍然可以被追蹤。