TokenLab

Framework và nền tảng

Langfuse

Theo dõi các yêu cầu tương thích với OpenAI của TokenLab bằng Langfuse

Tổng quan

Langfuse có thể theo dõi các lệnh gọi OpenAI SDK sau khi URL cơ sở (Base URL) của SDK được thay đổi thành /v1 của TokenLab.

Cài đặt

pip install langfuse openai

Môi trường

export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_BASE_URL="https://cloud.langfuse.com"
export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Ví dụ

import os

from langfuse import get_client, observe
from langfuse.openai import OpenAI

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)


@observe()
def story():
    return client.chat.completions.create(
        model="claude-sonnet-5",
        messages=[{"role": "user", "content": "Write a short haiku."}],
    ).choices[0].message.content


print(story())
get_client().flush()

Lưu ý về Endpoint

Trang này đề cập đến việc theo dõi Langfuse cho đường dẫn OpenAI SDK. Nếu ứng dụng của bạn sử dụng các phản hồi gốc của TokenLab, Anthropic Messages hoặc các endpoint của Gemini, hãy đảm bảo rằng công cụ đo lường (instrumentation) của bạn nắm bắt được đường dẫn gọi client đó.

Trên trang này