프레임워크 및 플랫폼
Langfuse
Langfuse를 사용하여 TokenLab의 OpenAI 호환 요청 추적하기
개요
Langfuse는 OpenAI SDK가 TokenLab의 /v1 베이스 URL로 구성된 경우, OpenAI 통합을 통해 TokenLab 호출을 추적할 수 있습니다.
설치
pip install langfuse openai환경 설정
export LANGFUSE_SECRET_KEY="sk-lf-..."
export LANGFUSE_PUBLIC_KEY="pk-lf-..."
export LANGFUSE_BASE_URL="https://cloud.langfuse.com"
export TOKENLAB_API_KEY="sk-your-tokenlab-key"예시
import os
from langfuse import get_client, observe
from langfuse.openai import OpenAI
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
@observe()
def story():
return client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Write a short haiku."}],
).choices[0].message.content
print(story())
get_client().flush()엔드포인트 참고 사항
이 페이지는 OpenAI SDK 경로에 대한 Langfuse 추적을 다룹니다. 애플리케이션에서 TokenLab 네이티브 응답, Anthropic Messages 또는 Gemini 엔드포인트를 사용하는 경우, 해당 클라이언트 호출 경로가 계측(instrumentation)에 포함되도록 확인하십시오.