TokenLab

Frameworks et plateformes

Phoenix

Tracez les requêtes compatibles avec OpenAI de TokenLab avec Arize Phoenix

Aperçu

Phoenix peut tracer les requêtes TokenLab en instrumentant automatiquement le client Python OpenAI configuré avec l'URL de base compatible OpenAI de TokenLab.

Installation

pip install arize-phoenix openinference-instrumentation-openai openai

Environnement

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Enregistrer Phoenix

Avant d’exécuter cet exemple, démarrez Phoenix localement ou utilisez un déploiement existant. Par défaut, register() envoie les traces au collector OTLP/gRPC local à l’adresse http://localhost:4317. Pour un autre déploiement, configurez l’endpoint du collector et l’authentification selon le guide Phoenix. L’installation du SDK ne démarre pas le collector.

from phoenix.otel import register

tracer_provider = register(
    project_name="tokenlab-app",
    auto_instrument=True,
)

Appeler TokenLab

import os

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Write a short haiku."}],
)

print(response.choices[0].message.content)

Remarques sur les endpoints

Phoenix trace le chemin d'appel du SDK OpenAI. Utilisez cette page pour les appels TokenLab de type Chat Completions. Les autres endpoints natifs de TokenLab peuvent toujours être tracés si l'instrumentation de votre application capture le client que vous utilisez pour ces requêtes.

Sur cette page