Framework'ler ve platformlar

OpenLLMetry

OpenLLMetry ile TokenLab OpenAI uyumlu isteklerini izleyin

Genel Bakış

OpenAI SDK'sını TokenLab /v1 ile yapılandırın ve ardından bu SDK çağrılarını kaydetmek için OpenLLMetry kullanın.

Kurulum

pip install opentelemetry-instrumentation-openai opentelemetry-sdk openai

Ortam

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Örnek

Bu bağımsız örnek, span'leri terminalinize yazar. Uygulamanızda halihazırda bir OpenTelemetry tracer sağlayıcısı varsa, o sağlayıcıyı ve dışa aktarıcısını (exporter) yeniden kullanın.

import os

from openai import OpenAI
from opentelemetry import trace
from opentelemetry.instrumentation.openai import OpenAIInstrumentor
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import ConsoleSpanExporter, SimpleSpanProcessor

tracer_provider = TracerProvider()
tracer_provider.add_span_processor(SimpleSpanProcessor(ConsoleSpanExporter()))
trace.set_tracer_provider(tracer_provider)

OpenAIInstrumentor().instrument()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Trace this request"}],
)

Uç Nokta Notları

OpenAI SDK uyumlu TokenLab çağrıları için bu yolu kullanın. TokenLab yerel uç noktaları için, bu istekleri fiilen gönderen HTTP veya SDK istemcisini izleyin (instrument).

Bu sayfada