Framework & platform
Phoenix
Lacak permintaan yang kompatibel dengan OpenAI di TokenLab menggunakan Arize Phoenix
Gambaran Umum
Phoenix dapat merekam panggilan dari klien Python OpenAI yang Base URL-nya mengarah ke TokenLab.
Instalasi
pip install arize-phoenix openinference-instrumentation-openai openaiLingkungan
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Mendaftarkan Phoenix
Jalankan Phoenix secara lokal atau gunakan deployment yang sudah ada sebelum menjalankan contoh ini. Secara default, register() mengirimkan trace ke kolektor OTLP/gRPC lokal di http://localhost:4317. Untuk deployment lain, konfigurasikan endpoint kolektor dan autentikasi menggunakan panduan pengaturan Phoenix. Menginstal SDK tidak akan menjalankan kolektor.
from phoenix.otel import register
tracer_provider = register(
project_name="tokenlab-app",
auto_instrument=True,
)Memanggil TokenLab
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Write a short haiku."}],
)
print(response.choices[0].message.content)Catatan Endpoint
Phoenix melacak jalur panggilan SDK OpenAI. Gunakan halaman ini untuk panggilan TokenLab bergaya Chat Completions. Endpoint asli TokenLab lainnya masih dapat dilacak jika instrumentasi aplikasi Anda menangkap klien yang Anda gunakan untuk permintaan tersebut.