フレームワークとプラットフォーム
Langfuse
Langfuseを使用してTokenLabのOpenAI互換リクエストをトレースする
概要
OpenAI SDKのBase URLをTokenLabの /v1 に変更することで、LangfuseでOpenAI SDKの呼び出しをトレースできます。
インストール
pip install langfuse openai環境変数
export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_BASE_URL="https://cloud.langfuse.com"
export TOKENLAB_API_KEY="sk-your-tokenlab-key"例
import os
from langfuse import get_client, observe
from langfuse.openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
@observe()
def story():
return client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Write a short haiku."}],
).choices[0].message.content
print(story())
get_client().flush()エンドポイントに関する注意点
このページでは、OpenAI SDKパスのLangfuseトレースについて説明しています。アプリケーションでTokenLabネイティブのResponses、Anthropic Messages、またはGeminiエンドポイントを使用している場合は、そのクライアント呼び出しパスがインストルメンテーションでキャプチャされるようにしてください。