Framework & platform

Phoenix

Lacak permintaan yang kompatibel dengan OpenAI di TokenLab menggunakan Arize Phoenix

Gambaran Umum

Phoenix dapat merekam panggilan dari klien Python OpenAI yang Base URL-nya mengarah ke TokenLab.

Instalasi

pip install arize-phoenix openinference-instrumentation-openai openai

Lingkungan

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Mendaftarkan Phoenix

Jalankan Phoenix secara lokal atau gunakan deployment yang sudah ada sebelum menjalankan contoh ini. Secara default, register() mengirimkan trace ke kolektor OTLP/gRPC lokal di http://localhost:4317. Untuk deployment lain, konfigurasikan endpoint kolektor dan autentikasi menggunakan panduan pengaturan Phoenix. Menginstal SDK tidak akan menjalankan kolektor.

from phoenix.otel import register

tracer_provider = register(
    project_name="tokenlab-app",
    auto_instrument=True,
)

Memanggil TokenLab

import os

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Write a short haiku."}],
)

print(response.choices[0].message.content)

Catatan Endpoint

Phoenix melacak jalur panggilan SDK OpenAI. Gunakan halaman ini untuk panggilan TokenLab bergaya Chat Completions. Endpoint asli TokenLab lainnya masih dapat dilacak jika instrumentasi aplikasi Anda menangkap klien yang Anda gunakan untuk permintaan tersebut.

Di halaman ini