フレームワークとプラットフォーム
Langfuse
TokenLabのOpenAI互換リクエストをLangfuseでトレースする
概要
Langfuseは、OpenAI SDKがTokenLabの /v1 ベースURLで設定されている場合、そのOpenAI統合を通じてTokenLabの呼び出しをトレースできます。
インストール
pip install langfuse openai環境変数
export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_BASE_URL="https://cloud.langfuse.com"
export TOKENLAB_API_KEY="sk-your-tokenlab-key"例
import os
from langfuse import get_client, observe
from langfuse.openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
@observe()
def story():
return client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Write a short haiku."}],
).choices[0].message.content
print(story())
get_client().flush()エンドポイントに関する注意点
このページでは、OpenAI SDKパスを使用したLangfuseのトレースについて説明しています。アプリケーションでTokenLabネイティブのResponses、Anthropic Messages、またはGeminiエンドポイントを使用している場合は、そのクライアント呼び出しパスがインストゥルメンテーションによってキャプチャされていることを確認してください。