TokenLab

Frameworks et plateformes

OpenLLMetry

Tracez les requêtes compatibles avec OpenAI de TokenLab avec OpenLLMetry

Aperçu

L'instrumentation OpenAI d'OpenLLMetry trace les appels effectués via le SDK officiel d'OpenAI. Configurez ce SDK avec l'URL de base /v1 de TokenLab.

Installation

pip install opentelemetry-instrumentation-openai opentelemetry-sdk openai

Environnement

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Exemple

Cet exemple autonome affiche les spans dans le terminal. Si votre application dispose déjà d’un tracer provider OpenTelemetry, réutilisez ce provider et son exporter.

import os

from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor

tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)

OpenAIInstrumentor().instrument()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Trace this request"}],
)

Remarques sur les endpoints

Utilisez ce chemin pour les appels TokenLab compatibles avec le SDK OpenAI. Pour les endpoints natifs de TokenLab, instrumentez le client HTTP ou le SDK qui envoie réellement ces requêtes.

Sur cette page