Framework và nền tảng
Langfuse
Theo dõi các yêu cầu tương thích với OpenAI của TokenLab bằng Langfuse
Tổng quan
Langfuse có thể theo dõi các lệnh gọi TokenLab thông qua tích hợp OpenAI khi OpenAI SDK được cấu hình với URL cơ sở /v1 của TokenLab.
Loại: Khả năng quan sát (Observability)
Đường dẫn chính: Theo dõi OpenAI SDK
Độ tin cậy hỗ trợ: Đường dẫn theo dõi tương thích với OpenAI được hỗ trợ
Cài đặt
pip install langfuse openaiMôi trường
export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_BASE_URL="https://cloud.langfuse.com"
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Ví dụ
import os
from langfuse import get_client, observe
from langfuse.openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
@observe()
def story():
return client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Write a short haiku."}],
).choices[0].message.content
print(story())
get_client().flush()Lưu ý về Endpoint
Trang này bao gồm việc theo dõi Langfuse cho đường dẫn OpenAI SDK. Nếu ứng dụng của bạn sử dụng các phản hồi gốc của TokenLab, Anthropic Messages hoặc các endpoint của Gemini, hãy đảm bảo rằng quá trình đo lường (instrumentation) của bạn nắm bắt được đường dẫn gọi client đó.