Framework & platform

Phoenix

Lacak permintaan yang kompatibel dengan OpenAI dari TokenLab menggunakan Arize Phoenix

Gambaran Umum

Phoenix dapat melacak permintaan TokenLab dengan melakukan instrumentasi otomatis pada klien Python OpenAI yang dikonfigurasi dengan URL dasar yang kompatibel dengan OpenAI dari TokenLab.

Tipe: Observabilitas

Jalur Utama: Instrumentasi SDK OpenAI

Tingkat Dukungan: Jalur pelacakan yang kompatibel dengan OpenAI didukung

Instalasi

pip install arize-phoenix openinference-instrumentation-openai openai

Lingkungan

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Mendaftarkan Phoenix

Jalankan Phoenix secara lokal atau gunakan deployment yang sudah ada sebelum menjalankan contoh ini. Secara default, register() mengirim trace ke collector OTLP/gRPC lokal di http://localhost:4317. Untuk deployment lain, atur endpoint collector dan autentikasi sesuai panduan Phoenix. Menginstal SDK tidak menjalankan collector.

from phoenix.otel import register

tracer_provider = register(
    project_name="tokenlab-app",
    auto_instrument=True,
)

Memanggil TokenLab

import os

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Write a short haiku."}],
)

print(response.choices[0].message.content)

Catatan Endpoint

Phoenix melacak jalur panggilan SDK OpenAI. Gunakan halaman ini untuk panggilan TokenLab bergaya Chat Completions. Endpoint asli TokenLab lainnya masih dapat dilacak jika instrumentasi aplikasi Anda menangkap klien yang Anda gunakan untuk permintaan tersebut.

Di halaman ini