框架与平台

OpenLLMetry

使用 OpenLLMetry 追踪 TokenLab 兼容 OpenAI 的请求

概述

把 OpenAI SDK Base URL 改为 TokenLab /v1,OpenLLMetry 就能记录这些 SDK 调用。

安装

pip install opentelemetry-instrumentation-openai opentelemetry-sdk openai

环境配置

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

示例

此独立示例会将 span 输出到终端。如果应用已配置 OpenTelemetry tracer provider,请复用已有的 provider 和 exporter。

import os

from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor

tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)

OpenAIInstrumentor().instrument()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Trace this request"}],
)

端点说明

请将此路径用于兼容 OpenAI SDK 的 TokenLab 调用。对于 TokenLab 原生端点,请对实际发送这些请求的 HTTP 或 SDK 客户端进行插桩。

本页内容