Framework'ler ve platformlar
OpenLLMetry
OpenLLMetry ile TokenLab OpenAI uyumlu isteklerini izleyin
Genel Bakış
OpenAI SDK'sını TokenLab /v1 ile yapılandırın ve ardından bu SDK çağrılarını kaydetmek için OpenLLMetry kullanın.
Kurulum
pip install opentelemetry-instrumentation-openai opentelemetry-sdk openaiOrtam
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Örnek
Bu bağımsız örnek, span'leri terminalinize yazar. Uygulamanızda halihazırda bir OpenTelemetry tracer sağlayıcısı varsa, o sağlayıcıyı ve dışa aktarıcısını (exporter) yeniden kullanın.
import os
from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor
tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)
OpenAIInstrumentor().instrument()
client = OpenAI(
api_key=os.environ["TOKENLAB_API_KEY"],
base_url="https://api.tokenlab.sh/v1",
)
client.chat.completions.create(
model="claude-sonnet-5",
messages=[{"role": "user", "content": "Trace this request"}],
)Uç Nokta Notları
OpenAI SDK uyumlu TokenLab çağrıları için bu yolu kullanın. TokenLab yerel uç noktaları için, bu istekleri fiilen gönderen HTTP veya SDK istemcisini izleyin (instrument).