Frameworks & Plattformen
OpenLLMetry
Verfolgen Sie OpenAI-kompatible TokenLab-Anfragen mit OpenLLMetry
Überblick
Konfigurieren Sie das OpenAI SDK mit TokenLab /v1 und verwenden Sie dann OpenLLMetry, um diese SDK-Aufrufe aufzuzeichnen.
Installation
pip install opentelemetry-instrumentation-openai opentelemetry-sdk openaiUmgebung
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Beispiel
Dieses eigenständige Beispiel schreibt Spans in Ihr Terminal. Wenn Ihre Anwendung bereits einen OpenTelemetry Tracer-Provider besitzt, verwenden Sie diesen Provider und seinen Exporter wieder.
import os
from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor
tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)
OpenAIInstrumentor().instrument()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Trace this request"}],
)Hinweise zu Endpunkten
Verwenden Sie diesen Pfad für OpenAI SDK-kompatible TokenLab-Aufrufe. Für native TokenLab-Endpunkte instrumentieren Sie den HTTP- oder SDK-Client, der diese Anfragen tatsächlich sendet.