Opik

Tổng quanCopy Anchor Link

Opik có thể ghi nhật ký các lệnh gọi TokenLab bằng cách bao bọc (wrap) một client OpenAI trỏ đến endpoint tương thích với OpenAI của TokenLab.

Cài đặtCopy Anchor Link

pip install opik openai

Môi trườngCopy Anchor Link

export TOKENLAB_API_KEY="sk-your-tokenlab-key"
export OPIK_PROJECT_NAME="tokenlab-integration-demo"

Bao bọc OpenAI ClientCopy Anchor Link

Cấu hình Opik trước khi chạy ví dụ: Opik Cloud yêu cầu OPIK_API_KEY và OPIK_WORKSPACE khi cần. Với bản triển khai tự lưu trữ hiện có, đặt OPIK_URL_OVERRIDE thành URL API của nó, chẳng hạn http://localhost:5173/api. Xem hướng dẫn cấu hình Opik.

import os

from openai import OpenAI
from opik.integrations.openai import track_openai

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

openai_client = track_openai(client)

Ghi nhật ký Chat CompletionCopy Anchor Link

completion = openai_client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[
        {"role": "user", "content": "Summarize why LLM observability matters."}
    ],
)

print(completion.choices[0].message.content)

Lưu ý về EndpointCopy Anchor Link

Thiết lập này theo dõi đường dẫn SDK tương thích với OpenAI. Nếu bạn sử dụng các endpoint gốc của TokenLab bên ngoài OpenAI SDK, hãy thực hiện instrument cho client hoặc quy trình làm việc đó một cách riêng biệt.