Framework'ler ve platformlar
Phoenix
TokenLab OpenAI uyumlu isteklerini Arize Phoenix ile izleyin
Genel Bakış
Phoenix, Base URL'i TokenLab'i işaret eden bir OpenAI Python istemcisinden gelen çağrıları kaydedebilir.
Kurulum
pip install arize-phoenix openinference-instrumentation-openai openaiOrtam
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Phoenix'i Kaydetme
Bu örneği çalıştırmadan önce Phoenix'i yerel olarak başlatın veya mevcut bir dağıtımı kullanın. Varsayılan olarak register(), izleri http://localhost:4317 adresindeki yerel OTLP/gRPC toplayıcısına gönderir. Başka bir dağıtım için, Phoenix kurulum kılavuzunu kullanarak toplayıcı uç noktasını ve kimlik doğrulamasını yapılandırın. SDK'yı yüklemek toplayıcıyı başlatmaz.
from phoenix.otel import register
tracer_provider = register(
project_name="tokenlab-app",
auto_instrument=True,
)TokenLab'i Çağırma
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Write a short haiku."}],
)
print(response.choices[0].message.content)Uç Nokta Notları
Phoenix, OpenAI SDK çağrı yolunu izler. Chat Completions tarzı TokenLab çağrıları için bu sayfayı kullanın. Diğer TokenLab yerel uç noktaları, uygulama enstrümantasyonunuz bu istekler için kullandığınız istemciyi yakaladığı sürece izlenmeye devam edebilir.