Frameworks y plataformas

Langfuse

Rastrea solicitudes compatibles con OpenAI de TokenLab con Langfuse

Descripción general

Langfuse puede rastrear llamadas de TokenLab a través de su integración con OpenAI cuando el SDK de OpenAI está configurado con la URL base /v1 de TokenLab.

Instalación

pip install langfuse openai

Entorno

export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_BASE_URL="https://cloud.langfuse.com"
export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Ejemplo

import os

from langfuse import get_client, observe
from langfuse.openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)


@observe()
def story():
    return client.chat.completions.create(
        model="claude-sonnet-5",
        messages=[{"role": "user", "content": "Write a short haiku."}],
    ).choices[0].message.content


print(story())
get_client().flush()

Notas sobre los endpoints

Esta página cubre el rastreo de Langfuse para la ruta del SDK de OpenAI. Si su aplicación utiliza respuestas nativas de TokenLab, mensajes de Anthropic o endpoints de Gemini, asegúrese de que su instrumentación capture esa ruta de llamada del cliente.

En esta página