Framework và nền tảng
OpenLIT
Giám sát các yêu cầu tương thích với OpenAI của TokenLab bằng OpenLIT
Tổng quan
OpenLIT có thể ghi lại các lệnh gọi OpenAI SDK sau khi Base URL của SDK được thay đổi thành /v1 của TokenLab.
Cài đặt
pip install openlit openaiMôi trường
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Ví dụ
import os
import openlit
from openai import OpenAI
openlit.init()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)Lưu ý về Endpoint
OpenLIT tuân theo lộ trình đo lường (instrumentation) của SDK. Chat Completions là bề mặt tích hợp an toàn nhất; các lệnh gọi gốc khác của TokenLab phụ thuộc vào việc thiết lập OpenLIT/OpenTelemetry của bạn có nắm bắt được phương thức SDK hoặc HTTP client đó hay không.