Framework & platform
OpenLLMetry
Lacak permintaan yang kompatibel dengan OpenAI di TokenLab menggunakan OpenLLMetry
Gambaran Umum
Instrumentasi OpenAI dari OpenLLMetry melacak panggilan yang dilakukan melalui SDK OpenAI resmi. Konfigurasikan SDK tersebut dengan URL dasar /v1 milik TokenLab.
Tipe: Observabilitas
Jalur Utama: Instrumentasi SDK OpenAI
Tingkat Dukungan: Jalur observabilitas yang kompatibel dengan OpenAI didukung
Instalasi
pip install opentelemetry-instrumentation-openai opentelemetry-sdk openaiLingkungan
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Contoh
Contoh mandiri ini menampilkan span di terminal. Jika aplikasi Anda sudah memiliki tracer provider OpenTelemetry, gunakan kembali provider dan exporter yang ada.
import os
from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor
tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)
OpenAIInstrumentor().instrument()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Trace this request"}],
)Catatan Endpoint
Gunakan jalur ini untuk panggilan TokenLab yang kompatibel dengan SDK OpenAI. Untuk endpoint asli TokenLab, lakukan instrumentasi pada klien HTTP atau SDK yang benar-benar mengirimkan permintaan tersebut.