Frameworks y plataformas

Opik

Rastree solicitudes compatibles con OpenAI de TokenLab con Opik

Descripción general

Opik puede registrar llamadas de TokenLab envolviendo un cliente de OpenAI que apunte al endpoint compatible con OpenAI de TokenLab.

Instalación

pip install opik openai

Entorno

export TOKENLAB_API_KEY="sk-your-tokenlab-key"
export OPIK_PROJECT_NAME="tokenlab-integration-demo"

Envolver el cliente de OpenAI

Configura Opik antes de ejecutar el ejemplo: Opik Cloud requiere OPIK_API_KEY y, cuando sea necesario, OPIK_WORKSPACE. Para un despliegue autoalojado existente, establece OPIK_URL_OVERRIDE con su URL de API, como http://localhost:5173/api. Consulta la guía de configuración de Opik.

import os

from openai import OpenAI
from opik.integrations.openai import track_openai

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

openai_client = track_openai(client)

Registrar una finalización de chat (Chat Completion)

completion = openai_client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[
        {"role": "user", "content": "Summarize why LLM observability matters."}
    ],
)

print(completion.choices[0].message.content)

Notas sobre el endpoint

Esta configuración rastrea la ruta del SDK compatible con OpenAI. Si utiliza endpoints nativos de TokenLab fuera del SDK de OpenAI, instrumente ese cliente o flujo de trabajo por separado.

En esta página