Frameworks y plataformas
OpenLLMetry
Rastree solicitudes compatibles con OpenAI de TokenLab con OpenLLMetry
Descripción general
Configure el SDK de OpenAI con /v1 de TokenLab y, a continuación, utilice OpenLLMetry para registrar esas llamadas al SDK.
Instalación
pip install opentelemetry-instrumentation-openai opentelemetry-sdk openaiEntorno
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Ejemplo
Este ejemplo independiente escribe los spans en su terminal. Si su aplicación ya cuenta con un proveedor de rastreo (tracer provider) de OpenTelemetry, reutilice dicho proveedor y su exportador.
import os
from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor
tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)
OpenAIInstrumentor().instrument()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Trace this request"}],
)Notas sobre el endpoint
Utilice esta ruta para las llamadas a TokenLab compatibles con el SDK de OpenAI. Para los endpoints nativos de TokenLab, instrumente el cliente HTTP o el SDK que realmente envía esas solicitudes.