Frameworks e plataformas
OpenLLMetry
Rastreie requisições compatíveis com OpenAI no TokenLab usando o OpenLLMetry
Visão Geral
A instrumentação OpenAI do OpenLLMetry rastreia chamadas feitas através do SDK oficial da OpenAI. Configure esse SDK com a URL base /v1 do TokenLab.
Tipo: Observabilidade
Caminho Principal: Instrumentação do SDK da OpenAI
Nível de Suporte: Caminho de observabilidade compatível com OpenAI suportado
Instalação
pip install opentelemetry-instrumentation-openai opentelemetry-sdk openaiAmbiente
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Exemplo
Este exemplo independente exibe os spans no terminal. Se o aplicativo já tiver um tracer provider do OpenTelemetry, reutilize esse provider e seu exporter.
import os
from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor
tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)
OpenAIInstrumentor().instrument()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Trace this request"}],
)Notas sobre o Endpoint
Use este caminho para chamadas do TokenLab compatíveis com o SDK da OpenAI. Para endpoints nativos do TokenLab, instrumente o cliente HTTP ou SDK que efetivamente envia essas requisições.