TokenLab

框架與平台

Phoenix

使用 Arize Phoenix 追蹤 TokenLab 與 OpenAI 相容的請求

概覽

Phoenix 可以透過自動檢測(auto-instrumenting)配置了 TokenLab OpenAI 相容 base URL 的 OpenAI Python 客戶端,來追蹤 TokenLab 的請求。

類型: 可觀測性 (Observability)

主要路徑: OpenAI SDK 檢測

支援信心: 支援 OpenAI 相容的追蹤路徑

安裝

pip install arize-phoenix openinference-instrumentation-openai openai

環境變數

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

註冊 Phoenix

執行範例前,請先在本機啟動 Phoenix 或使用既有部署。register() 預設將追蹤資料傳送至本機 http://localhost:4317 的 OTLP/gRPC collector。其他部署請依 Phoenix 設定指南設定 collector 位址與驗證。安裝 SDK 不會啟動 collector。

from phoenix.otel import register

tracer_provider = register(
    project_name="tokenlab-app",
    auto_instrument=True,
)

呼叫 TokenLab

import os

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Write a short haiku."}],
)

print(response.choices[0].message.content)

端點注意事項

Phoenix 會追蹤 OpenAI SDK 的呼叫路徑。請使用此頁面進行 Chat Completions 風格的 TokenLab 呼叫。如果您的應用程式檢測機制能捕捉到您用於這些請求的客戶端,其他 TokenLab 原生端點仍然可以被追蹤。

本頁內容