Frameworks y plataformas
OpenLIT
Monitoree las solicitudes compatibles con OpenAI de TokenLab con OpenLIT
Descripción general
OpenLIT instrumenta los SDK oficiales de OpenAI, por lo que las solicitudes de TokenLab pueden ser monitoreadas configurando el cliente del SDK con la URL base /v1 de TokenLab.
Instalación
pip install openlit openaiEntorno
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Ejemplo
import os
import openlit
from openai import OpenAI
openlit.init()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
response = client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)Notas sobre los endpoints
OpenLIT sigue la ruta de instrumentación del SDK. Chat Completions es la superficie de integración más segura; otras llamadas nativas de TokenLab dependen de si su configuración de OpenLIT/OpenTelemetry captura ese método del SDK o cliente HTTP.