Frameworks & Plattformen

Langfuse

Verfolgen Sie OpenAI-kompatible TokenLab-Anfragen mit Langfuse

Übersicht

Langfuse kann OpenAI SDK-Aufrufe nachverfolgen, nachdem die SDK Base URL auf TokenLab /v1 geändert wurde.

Installation

pip install langfuse openai

Umgebung

export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_BASE_URL="https://cloud.langfuse.com"
export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Beispiel

import os

from langfuse import get_client, observe
from langfuse.openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)


@observe()
def story():
    return client.chat.completions.create(
        model="claude-sonnet-5",
        messages=[{"role": "user", "content": "Write a short haiku."}],
    ).choices[0].message.content


print(story())
get_client().flush()

Hinweise zu Endpunkten

Diese Seite behandelt das Langfuse-Tracing für den OpenAI SDK-Pfad. Wenn Ihre Anwendung native TokenLab-Antworten, Anthropic Messages oder Gemini-Endpunkte verwendet, stellen Sie sicher, dass Ihre Instrumentierung diesen Client-Aufrufpfad erfasst.

Auf dieser Seite