TokenLab

框架與平台

Langfuse

使用 Langfuse 追蹤 TokenLab 與 OpenAI 相容的請求

概覽

當 OpenAI SDK 設定為使用 TokenLab 的 /v1 基礎 URL 時,Langfuse 可以透過其 OpenAI 整合功能來追蹤 TokenLab 的呼叫。

類型: 可觀測性 (Observability)

主要路徑: OpenAI SDK 追蹤

支援信心: 支援與 OpenAI 相容的追蹤路徑

安裝

pip install langfuse openai

環境變數

export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_BASE_URL="https://cloud.langfuse.com"
export TOKENLAB_API_KEY="sk-your-tokenlab-key"

範例

import os

from langfuse import get_client, observe
from langfuse.openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)


@observe()
def story():
    return client.chat.completions.create(
        model="claude-sonnet-5",
        messages=[{"role": "user", "content": "Write a short haiku."}],
    ).choices[0].message.content


print(story())
get_client().flush()

端點注意事項

本頁面涵蓋了 OpenAI SDK 路徑的 Langfuse 追蹤。如果您的應用程式使用 TokenLab 原生回應 (Responses)、Anthropic Messages 或 Gemini 端點,請確保您的檢測 (instrumentation) 涵蓋了該客戶端呼叫路徑。

本頁內容