Framework và nền tảng
Opik
Theo dõi các yêu cầu tương thích với OpenAI của TokenLab bằng Opik
Tổng quan
Trỏ client OpenAI tới TokenLab, sau đó bao bọc client đó bằng Opik để ghi lại các lệnh gọi.
Cài đặt
pip install opik openaiMôi trường
export TOKENLAB_API_KEY="sk-your-tokenlab-key"
export OPIK_PROJECT_NAME="tokenlab-integration-demo"Bao bọc OpenAI Client
Cấu hình Opik trước khi chạy ví dụ này: Opik Cloud yêu cầu OPIK_API_KEY và OPIK_WORKSPACE khi cần thiết. Đối với các triển khai tự lưu trữ (self-hosted) hiện có, hãy đặt OPIK_URL_OVERRIDE thành URL API của nó, ví dụ: http://localhost:5173/api. Xem hướng dẫn cấu hình Opik.
import os
from openai import OpenAI
from opik.integrations.openai import track_openai
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
openai_client = track_openai(client)Ghi lại Chat Completion
completion = openai_client.chat.completions.create(
model="claude-sonnet-5",
messages=[
{"role": "user", "content": "Summarize why LLM observability matters."}
],
)
print(completion.choices[0].message.content)Lưu ý về Endpoint
Thiết lập này theo dõi đường dẫn SDK tương thích với OpenAI. Nếu bạn sử dụng các endpoint gốc của TokenLab bên ngoài SDK OpenAI, hãy thực hiện instrument cho client hoặc quy trình làm việc đó một cách riêng biệt.