TokenLab

框架與平台

Langfuse

使用 Langfuse 追蹤 TokenLab 相容 OpenAI 的請求

概覽

當將 SDK 的 Base URL 更改為 TokenLab 的 /v1 後,Langfuse 可以追蹤 OpenAI SDK 的呼叫。

安裝

pip install langfuse openai

環境變數

export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_BASE_URL="https://cloud.langfuse.com"
export TOKENLAB_API_KEY="sk-your-tokenlab-key"

範例

import os

from langfuse import get_client, observe
from langfuse.openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)


@observe()
def story():
    return client.chat.completions.create(
        model="claude-sonnet-5",
        messages=[{"role": "user", "content": "Write a short haiku."}],
    ).choices[0].message.content


print(story())
get_client().flush()

端點注意事項

本頁面涵蓋了 OpenAI SDK 路徑的 Langfuse 追蹤。如果您的應用程式使用 TokenLab 原生 Responses、Anthropic Messages 或 Gemini 端點,請確保您的檢測(instrumentation)機制能捕捉到該客戶端呼叫路徑。

本頁內容