框架與平台
OpenLIT
使用 OpenLIT 監控 TokenLab 與 OpenAI 相容的請求
概覽
在將 SDK Base URL 變更為 TokenLab /v1 後,OpenLIT 可以記錄 OpenAI SDK 的呼叫。
安裝
pip install openlit openai環境變數
export TOKENLAB_API_KEY="sk-your-tokenlab-key"範例
import os
import openlit
from openai import OpenAI
openlit.init()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)端點注意事項
OpenLIT 遵循 SDK 檢測路徑。Chat Completions 是最安全的整合介面;其他 TokenLab 原生呼叫則取決於您的 OpenLIT/OpenTelemetry 設定是否擷取該 SDK 方法或 HTTP 客戶端。