Framework & platform
OpenLIT
Pantau permintaan yang kompatibel dengan OpenAI di TokenLab menggunakan OpenLIT
Gambaran Umum
OpenLIT menginstrumentasi SDK OpenAI resmi, sehingga permintaan TokenLab dapat dipantau dengan mengonfigurasi klien SDK menggunakan URL dasar /v1 milik TokenLab.
Tipe: Observabilitas
Jalur Utama: Instrumentasi SDK OpenAI
Tingkat Dukungan: Jalur observabilitas yang kompatibel dengan OpenAI didukung
Instalasi
pip install openlit openaiLingkungan
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Contoh
import os
import openlit
from openai import OpenAI
openlit.init()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)Catatan Endpoint
OpenLIT mengikuti jalur instrumentasi SDK. Chat Completions adalah antarmuka integrasi yang paling aman; panggilan asli TokenLab lainnya bergantung pada apakah pengaturan OpenLIT/OpenTelemetry Anda menangkap metode SDK atau klien HTTP tersebut.