Framework & platform
OpenLIT
Pantau permintaan yang kompatibel dengan OpenAI di TokenLab menggunakan OpenLIT
Gambaran Umum
OpenLIT dapat merekam panggilan SDK OpenAI setelah Base URL SDK diubah ke /v1 TokenLab.
Instalasi
pip install openlit openaiLingkungan
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Contoh
import os
import openlit
from openai import OpenAI
openlit.init()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)Catatan Endpoint
OpenLIT mengikuti jalur instrumentasi SDK. Chat Completions adalah permukaan integrasi yang paling aman; panggilan native TokenLab lainnya bergantung pada apakah pengaturan OpenLIT/OpenTelemetry Anda menangkap metode SDK atau klien HTTP tersebut.