Frameworks & Plattformen

OpenLLMetry

Verfolgen Sie OpenAI-kompatible TokenLab-Anfragen mit OpenLLMetry

Überblick

Die OpenAI-Instrumentierung von OpenLLMetry verfolgt Aufrufe, die über das offizielle OpenAI SDK getätigt werden. Konfigurieren Sie dieses SDK mit der /v1 Basis-URL von TokenLab.

Typ: Observability

Primärer Pfad: OpenAI SDK-Instrumentierung

Support-Vertrauen: Unterstützter OpenAI-kompatibler Observability-Pfad

Installation

pip install opentelemetry-instrumentation-openai opentelemetry-sdk openai

Umgebung

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Beispiel

Dieses eigenständige Beispiel gibt Spans im Terminal aus. Wenn Ihre Anwendung bereits einen OpenTelemetry Tracer Provider verwendet, nutzen Sie diesen Provider und seinen Exporter weiter.

import os

from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor

tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)

OpenAIInstrumentor().instrument()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Trace this request"}],
)

Hinweise zu Endpunkten

Verwenden Sie diesen Pfad für OpenAI SDK-kompatible TokenLab-Aufrufe. Für native TokenLab-Endpunkte instrumentieren Sie den HTTP- oder SDK-Client, der diese Anfragen tatsächlich sendet.

Auf dieser Seite