TokenLab

프레임워크 및 플랫폼

Opik

Opik을 사용하여 TokenLab의 OpenAI 호환 요청 추적하기

개요

OpenAI 클라이언트를 TokenLab으로 지정한 다음, 해당 클라이언트를 Opik으로 래핑하여 호출을 기록합니다.

설치

pip install opik openai

환경 설정

export TOKENLAB_API_KEY="sk-your-tokenlab-key"
export OPIK_PROJECT_NAME="tokenlab-integration-demo"

OpenAI 클라이언트 래핑

이 예제를 실행하기 전에 Opik을 구성하세요. Opik Cloud는 OPIK_API_KEY가 필요하며, 필요한 경우 OPIK_WORKSPACE도 설정해야 합니다. 기존 자체 호스팅 배포의 경우, OPIK_URL_OVERRIDE를 http://localhost:5173/api와 같은 API URL로 설정하세요. Opik 구성 가이드를 참조하세요.

import os

from openai import OpenAI
from opik.integrations.openai import track_openai

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

openai_client = track_openai(client)

채팅 완료(Chat Completion) 로그 기록

completion = openai_client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[
        {"role": "user", "content": "Summarize why LLM observability matters."}
    ],
)

print(completion.choices[0].message.content)

엔드포인트 참고 사항

이 설정은 OpenAI 호환 SDK 경로를 추적합니다. OpenAI SDK 외부에서 TokenLab 네이티브 엔드포인트를 사용하는 경우, 해당 클라이언트나 워크플로우를 별도로 계측하십시오.

이 페이지의 내용