Framework & platform
Opik
Lacak permintaan yang kompatibel dengan OpenAI di TokenLab menggunakan Opik
Gambaran Umum
Arahkan klien OpenAI ke TokenLab, lalu bungkus klien tersebut dengan Opik untuk merekam panggilan.
Instalasi
pip install opik openaiLingkungan
export TOKENLAB_API_KEY="sk-your-tokenlab-key"
export OPIK_PROJECT_NAME="tokenlab-integration-demo"Membungkus Klien OpenAI
Konfigurasikan Opik sebelum menjalankan contoh ini: Opik Cloud memerlukan OPIK_API_KEY dan, jika diperlukan, OPIK_WORKSPACE. Untuk deployment self-hosted yang sudah ada, atur OPIK_URL_OVERRIDE ke URL API-nya, seperti http://localhost:5173/api. Lihat panduan konfigurasi Opik.
import os
from openai import OpenAI
from opik.integrations.openai import track_openai
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
openai_client = track_openai(client)Mencatat Chat Completion
completion = openai_client.chat.completions.create(
model="claude-sonnet-5",
messages=[
{"role": "user", "content": "Summarize why LLM observability matters."}
],
)
print(completion.choices[0].message.content)Catatan Endpoint
Pengaturan ini melacak jalur SDK yang kompatibel dengan OpenAI. Jika Anda menggunakan endpoint native TokenLab di luar SDK OpenAI, lakukan instrumentasi pada klien atau alur kerja tersebut secara terpisah.