Frameworks e plataformas
OpenLIT
Monitore requisições compatíveis com OpenAI do TokenLab com o OpenLIT
Visão Geral
O OpenLIT pode registrar chamadas do SDK da OpenAI após a URL base do SDK ser alterada para /v1 do TokenLab.
Instalação
pip install openlit openaiAmbiente
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Exemplo
import os
import openlit
from openai import OpenAI
openlit.init()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)Notas sobre Endpoints
O OpenLIT segue o caminho de instrumentação do SDK. Chat Completions é a superfície de integração mais segura; outras chamadas nativas do TokenLab dependem de se a sua configuração de OpenLIT/OpenTelemetry captura esse método de SDK ou cliente HTTP.