Frameworks & Plattformen

OpenLLMetry

Verfolgen Sie OpenAI-kompatible TokenLab-Anfragen mit OpenLLMetry

Überblick

Konfigurieren Sie das OpenAI SDK mit TokenLab /v1 und verwenden Sie dann OpenLLMetry, um diese SDK-Aufrufe aufzuzeichnen.

Installation

pip install opentelemetry-instrumentation-openai opentelemetry-sdk openai

Umgebung

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Beispiel

Dieses eigenständige Beispiel schreibt Spans in Ihr Terminal. Wenn Ihre Anwendung bereits einen OpenTelemetry Tracer-Provider besitzt, verwenden Sie diesen Provider und seinen Exporter wieder.

import os

from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor

tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)

OpenAIInstrumentor().instrument()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Trace this request"}],
)

Hinweise zu Endpunkten

Verwenden Sie diesen Pfad für OpenAI SDK-kompatible TokenLab-Aufrufe. Für native TokenLab-Endpunkte instrumentieren Sie den HTTP- oder SDK-Client, der diese Anfragen tatsächlich sendet.

Auf dieser Seite