框架与平台

Langfuse

使用 Langfuse 追踪 TokenLab 兼容 OpenAI 的请求

概述

把 OpenAI SDK Base URL 改为 TokenLab /v1 后,Langfuse 就能记录这些调用。

安装

pip install langfuse openai

环境配置

export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_BASE_URL="https://cloud.langfuse.com"
export TOKENLAB_API_KEY="sk-your-tokenlab-key"

示例

import os

from langfuse import get_client, observe
from langfuse.openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)


@observe()
def story():
    return client.chat.completions.create(
        model="claude-sonnet-5",
        messages=[{"role": "user", "content": "Write a short haiku."}],
    ).choices[0].message.content


print(story())
get_client().flush()

端点说明

本页面涵盖了针对 OpenAI SDK 路径的 Langfuse 追踪。如果你的应用程序使用 TokenLab 原生响应 (Responses)、Anthropic Messages 或 Gemini 端点,请确保你的插桩 (instrumentation) 能够捕获该客户端调用路径。

本页内容