Frameworks et plateformes
OpenLLMetry
Tracez les requêtes compatibles OpenAI de TokenLab avec OpenLLMetry
Aperçu
Configurez le SDK OpenAI avec TokenLab /v1, puis utilisez OpenLLMetry pour enregistrer ces appels SDK.
Installation
pip install opentelemetry-instrumentation-openai opentelemetry-sdk openaiEnvironnement
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Exemple
Cet exemple autonome écrit des spans dans votre terminal. Si votre application possède déjà un fournisseur de trace OpenTelemetry, réutilisez ce fournisseur et son exportateur.
import os
from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor
tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)
OpenAIInstrumentor().instrument()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Trace this request"}],
)Remarques sur les endpoints
Utilisez ce chemin pour les appels TokenLab compatibles avec le SDK OpenAI. Pour les endpoints natifs de TokenLab, instrumentez le client HTTP ou le SDK qui envoie réellement ces requêtes.