Frameworks et plateformes
Phoenix
Tracez les requêtes TokenLab compatibles avec OpenAI avec Arize Phoenix
Aperçu
Phoenix peut enregistrer les appels provenant d'un client Python OpenAI dont l'URL de base (Base URL) pointe vers TokenLab.
Installation
pip install arize-phoenix openinference-instrumentation-openai openaiEnvironnement
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Enregistrer Phoenix
Démarrez Phoenix localement ou utilisez un déploiement existant avant d'exécuter cet exemple. Par défaut, register() envoie les traces au collecteur OTLP/gRPC local à l'adresse http://localhost:4317. Pour un autre déploiement, configurez le point de terminaison du collecteur et l'authentification en utilisant le guide de configuration de Phoenix. L'installation du SDK ne démarre pas le collecteur.
from phoenix.otel import register
tracer_provider = register(
project_name="tokenlab-app",
auto_instrument=True,
)Appeler TokenLab
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Write a short haiku."}],
)
print(response.choices[0].message.content)Remarques sur les points de terminaison
Phoenix trace le chemin d'appel du SDK OpenAI. Utilisez cette page pour les appels TokenLab de type Chat Completions. Les autres points de terminaison natifs de TokenLab peuvent toujours être tracés si l'instrumentation de votre application capture le client que vous utilisez pour ces requêtes.