Framework & platform
Opik
Lacak permintaan yang kompatibel dengan OpenAI di TokenLab menggunakan Opik
Gambaran Umum
Opik dapat mencatat panggilan TokenLab dengan membungkus klien OpenAI yang mengarah ke endpoint yang kompatibel dengan OpenAI milik TokenLab.
Tipe: Observabilitas
Jalur Utama: Wrapper pelacakan SDK OpenAI
Tingkat Dukungan: Jalur pelacakan yang kompatibel dengan OpenAI didukung
Instalasi
pip install opik openaiLingkungan
export TOKENLAB_API_KEY="sk-your-tokenlab-key"
export OPIK_PROJECT_NAME="tokenlab-integration-demo"Membungkus Klien OpenAI
Konfigurasikan Opik sebelum menjalankan contoh ini: Opik Cloud memerlukan OPIK_API_KEY dan, bila diperlukan, OPIK_WORKSPACE. Untuk deployment yang dihosting sendiri dan sudah berjalan, atur OPIK_URL_OVERRIDE ke URL API-nya, misalnya http://localhost:5173/api. Lihat panduan konfigurasi Opik.
import os
from openai import OpenAI
from opik.integrations.openai import track_openai
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
openai_client = track_openai(client)Mencatat Chat Completion
completion = openai_client.chat.completions.create(
model="claude-sonnet-5",
messages=[
{"role": "user", "content": "Summarize why LLM observability matters."}
],
)
print(completion.choices[0].message.content)Catatan Endpoint
Pengaturan ini melacak jalur SDK yang kompatibel dengan OpenAI. Jika Anda menggunakan endpoint asli TokenLab di luar SDK OpenAI, lakukan instrumentasi pada klien atau alur kerja tersebut secara terpisah.