Framework'ler ve platformlar

Phoenix

TokenLab OpenAI uyumlu isteklerini Arize Phoenix ile izleyin

Genel Bakış

Phoenix, Base URL'i TokenLab'i işaret eden bir OpenAI Python istemcisinden gelen çağrıları kaydedebilir.

Kurulum

pip install arize-phoenix openinference-instrumentation-openai openai

Ortam

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Phoenix'i Kaydetme

Bu örneği çalıştırmadan önce Phoenix'i yerel olarak başlatın veya mevcut bir dağıtımı kullanın. Varsayılan olarak register(), izleri http://localhost:4317 adresindeki yerel OTLP/gRPC toplayıcısına gönderir. Başka bir dağıtım için, Phoenix kurulum kılavuzunu kullanarak toplayıcı uç noktasını ve kimlik doğrulamasını yapılandırın. SDK'yı yüklemek toplayıcıyı başlatmaz.

from phoenix.otel import register

tracer_provider = register(
    project_name="tokenlab-app",
    auto_instrument=True,
)

TokenLab'i Çağırma

import os

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Write a short haiku."}],
)

print(response.choices[0].message.content)

Uç Nokta Notları

Phoenix, OpenAI SDK çağrı yolunu izler. Chat Completions tarzı TokenLab çağrıları için bu sayfayı kullanın. Diğer TokenLab yerel uç noktaları, uygulama enstrümantasyonunuz bu istekler için kullandığınız istemciyi yakaladığı sürece izlenmeye devam edebilir.

Bu sayfada