Frameworks et plateformes
Phoenix
Tracez les requêtes compatibles avec OpenAI de TokenLab avec Arize Phoenix
Aperçu
Phoenix peut tracer les requêtes TokenLab en instrumentant automatiquement le client Python OpenAI configuré avec l'URL de base compatible OpenAI de TokenLab.
Installation
pip install arize-phoenix openinference-instrumentation-openai openaiEnvironnement
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Enregistrer Phoenix
Avant d’exécuter cet exemple, démarrez Phoenix localement ou utilisez un déploiement existant. Par défaut, register() envoie les traces au collector OTLP/gRPC local à l’adresse http://localhost:4317. Pour un autre déploiement, configurez l’endpoint du collector et l’authentification selon le guide Phoenix. L’installation du SDK ne démarre pas le collector.
from phoenix.otel import register
tracer_provider = register(
project_name="tokenlab-app",
auto_instrument=True,
)Appeler TokenLab
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Write a short haiku."}],
)
print(response.choices[0].message.content)Remarques sur les endpoints
Phoenix trace le chemin d'appel du SDK OpenAI. Utilisez cette page pour les appels TokenLab de type Chat Completions. Les autres endpoints natifs de TokenLab peuvent toujours être tracés si l'instrumentation de votre application capture le client que vous utilisez pour ces requêtes.