TokenLab

Framework và nền tảng

OpenLIT

Giám sát các yêu cầu tương thích với OpenAI của TokenLab bằng OpenLIT

Tổng quan

OpenLIT có thể ghi lại các lệnh gọi OpenAI SDK sau khi Base URL của SDK được thay đổi thành /v1 của TokenLab.

Cài đặt

pip install openlit openai

Môi trường

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Ví dụ

import os

import openlit
from openai import OpenAI

openlit.init()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)

Lưu ý về Endpoint

OpenLIT tuân theo lộ trình đo lường (instrumentation) của SDK. Chat Completions là bề mặt tích hợp an toàn nhất; các lệnh gọi gốc khác của TokenLab phụ thuộc vào việc thiết lập OpenLIT/OpenTelemetry của bạn có nắm bắt được phương thức SDK hoặc HTTP client đó hay không.

Trên trang này