TokenLab

Frameworks et plateformes

Phoenix

Tracez les requêtes TokenLab compatibles avec OpenAI avec Arize Phoenix

Aperçu

Phoenix peut enregistrer les appels provenant d'un client Python OpenAI dont l'URL de base (Base URL) pointe vers TokenLab.

Installation

pip install arize-phoenix openinference-instrumentation-openai openai

Environnement

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Enregistrer Phoenix

Démarrez Phoenix localement ou utilisez un déploiement existant avant d'exécuter cet exemple. Par défaut, register() envoie les traces au collecteur OTLP/gRPC local à l'adresse http://localhost:4317. Pour un autre déploiement, configurez le point de terminaison du collecteur et l'authentification en utilisant le guide de configuration de Phoenix. L'installation du SDK ne démarre pas le collecteur.

from phoenix.otel import register

tracer_provider = register(
    project_name="tokenlab-app",
    auto_instrument=True,
)

Appeler TokenLab

import os

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Write a short haiku."}],
)

print(response.choices[0].message.content)

Remarques sur les points de terminaison

Phoenix trace le chemin d'appel du SDK OpenAI. Utilisez cette page pour les appels TokenLab de type Chat Completions. Les autres points de terminaison natifs de TokenLab peuvent toujours être tracés si l'instrumentation de votre application capture le client que vous utilisez pour ces requêtes.

Sur cette page