Framework & platform

OpenLIT

Pantau permintaan yang kompatibel dengan OpenAI di TokenLab menggunakan OpenLIT

Gambaran Umum

OpenLIT dapat merekam panggilan SDK OpenAI setelah Base URL SDK diubah ke /v1 TokenLab.

Instalasi

pip install openlit openai

Lingkungan

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Contoh

import os

import openlit
from openai import OpenAI

openlit.init()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)

Catatan Endpoint

OpenLIT mengikuti jalur instrumentasi SDK. Chat Completions adalah permukaan integrasi yang paling aman; panggilan native TokenLab lainnya bergantung pada apakah pengaturan OpenLIT/OpenTelemetry Anda menangkap metode SDK atau klien HTTP tersebut.

Di halaman ini