Phoenix

Tổng quanCopy Anchor Link

Phoenix có thể theo dõi các yêu cầu TokenLab bằng cách tự động đo lường (auto-instrument) client Python của OpenAI được cấu hình với base URL tương thích với OpenAI của TokenLab.

Cài đặtCopy Anchor Link

pip install arize-phoenix openinference-instrumentation-openai openai

Môi trườngCopy Anchor Link

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Đăng ký PhoenixCopy Anchor Link

Trước khi chạy ví dụ, hãy khởi động Phoenix cục bộ hoặc dùng một bản triển khai hiện có. Theo mặc định, register() gửi trace đến collector OTLP/gRPC cục bộ tại http://localhost:4317. Với bản triển khai khác, cấu hình endpoint collector và xác thực theo hướng dẫn Phoenix. Việc cài SDK không khởi động collector.

from phoenix.otel import register

tracer_provider = register(
    project_name="tokenlab-app",
    auto_instrument=True,
)

Gọi TokenLabCopy Anchor Link

import os

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Write a short haiku."}],
)

print(response.choices[0].message.content)

Lưu ý về EndpointCopy Anchor Link

Phoenix theo dõi đường dẫn gọi OpenAI SDK. Hãy sử dụng trang này cho các lệnh gọi TokenLab theo kiểu Chat Completions. Các endpoint gốc khác của TokenLab vẫn có thể được theo dõi nếu việc đo lường ứng dụng của bạn nắm bắt được client mà bạn sử dụng cho các yêu cầu đó.