フレームワークとプラットフォーム
OpenLLMetry
OpenLLMetryを使用してTokenLabのOpenAI互換リクエストをトレースする
概要
OpenLLMetryのOpenAIインストゥルメンテーションは、公式のOpenAI SDKを通じて行われる呼び出しをトレースします。そのSDKをTokenLabの /v1 ベースURLで構成してください。
インストール
pip install opentelemetry-instrumentation-openai opentelemetry-sdk openai環境変数
export TOKENLAB_API_KEY="sk-your-tokenlab-key"例
この単独実行用の例は span をターミナルに出力します。アプリケーションに OpenTelemetry tracer provider がすでにある場合は、その provider と exporter を再利用してください。
import os
from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor
tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)
OpenAIInstrumentor().instrument()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Trace this request"}],
)エンドポイントに関する注意点
このパスは、OpenAI SDK互換のTokenLab呼び出しに使用してください。TokenLabネイティブのエンドポイントについては、実際にそれらのリクエストを送信するHTTPクライアントまたはSDKクライアントをインストゥルメントしてください。