Framework'ler ve platformlar
OpenLLMetry
OpenLLMetry ile TokenLab OpenAI uyumlu isteklerini izleyin
Genel Bakış
OpenLLMetry'nin OpenAI enstrümantasyonu, resmi OpenAI SDK'sı üzerinden yapılan çağrıları izler. İlgili SDK'yı TokenLab'in /v1 temel URL'si ile yapılandırın.
Tür: Gözlemlenebilirlik (Observability)
Birincil Yol: OpenAI SDK enstrümantasyonu
Destek Güveni: Desteklenen OpenAI uyumlu gözlemlenebilirlik yolu
Kurulum
pip install opentelemetry-instrumentation-openai opentelemetry-sdk openaiOrtam
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Örnek
Bu bağımsız örnek span verilerini terminale yazar. Uygulamanızda zaten bir OpenTelemetry tracer provider varsa mevcut provider ve exporter’ı yeniden kullanın.
import os
from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor
tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)
OpenAIInstrumentor().instrument()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Trace this request"}],
)Endpoint Notları
OpenAI SDK uyumlu TokenLab çağrıları için bu yolu kullanın. TokenLab yerel (native) endpoint'leri için, bu istekleri fiilen gönderen HTTP veya SDK istemcisini enstrümante edin.