フレームワークとプラットフォーム

OpenLLMetry

OpenLLMetryを使用してTokenLabのOpenAI互換リクエストをトレースする

概要

OpenAI SDKをTokenLabの /v1 に設定し、OpenLLMetryを使用してそれらのSDK呼び出しを記録します。

インストール

pip install opentelemetry-instrumentation-openai opentelemetry-sdk openai

環境変数

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

例

このスタンドアロンの例では、スパンをターミナルに出力します。アプリケーションですでにOpenTelemetryトレーサープロバイダーを使用している場合は、そのプロバイダーとエクスポーターを再利用してください。

import os

from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor

tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)

OpenAIInstrumentor().instrument()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Trace this request"}],
)

エンドポイントに関する注意点

OpenAI SDK互換のTokenLab呼び出しにはこのパスを使用してください。TokenLabネイティブのエンドポイントについては、それらのリクエストを実際に送信するHTTPクライアントまたはSDKクライアントをインストルメント化してください。

このページの内容