框架與平台
Langfuse
使用 Langfuse 追蹤 TokenLab 相容 OpenAI 的請求
概覽
當將 SDK 的 Base URL 更改為 TokenLab 的 /v1 後,Langfuse 可以追蹤 OpenAI SDK 的呼叫。
安裝
pip install langfuse openai環境變數
export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_BASE_URL="https://cloud.langfuse.com"
export TOKENLAB_API_KEY="sk-your-tokenlab-key"範例
import os
from langfuse import get_client, observe
from langfuse.openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
@observe()
def story():
return client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Write a short haiku."}],
).choices[0].message.content
print(story())
get_client().flush()端點注意事項
本頁面涵蓋了 OpenAI SDK 路徑的 Langfuse 追蹤。如果您的應用程式使用 TokenLab 原生 Responses、Anthropic Messages 或 Gemini 端點,請確保您的檢測(instrumentation)機制能捕捉到該客戶端呼叫路徑。