Framework'ler ve platformlar

Opik

TokenLab OpenAI uyumlu isteklerini Opik ile izleyin

Genel Bakış

Bir OpenAI istemcisini TokenLab'e yönlendirin ve ardından çağrıları kaydetmek için bu istemciyi Opik ile sarmalayın.

Kurulum

pip install opik openai

Ortam

export TOKENLAB_API_KEY="sk-your-tokenlab-key"
export OPIK_PROJECT_NAME="tokenlab-integration-demo"

OpenAI İstemcisini Sarmalama

Bu örneği çalıştırmadan önce Opik'i yapılandırın: Opik Cloud, OPIK_API_KEY ve gerektiğinde OPIK_WORKSPACE gerektirir. Mevcut bir self-hosted dağıtım için OPIK_URL_OVERRIDE değerini http://localhost:5173/api gibi API URL'sine ayarlayın. Opik yapılandırma kılavuzuna bakın.

import os

from openai import OpenAI
from opik.integrations.openai import track_openai

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

openai_client = track_openai(client)

Sohbet Tamamlama (Chat Completion) Günlüğü

completion = openai_client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[
        {"role": "user", "content": "Summarize why LLM observability matters."}
    ],
)

print(completion.choices[0].message.content)

Uç Nokta Notları

Bu kurulum, OpenAI uyumlu SDK yolunu izler. OpenAI SDK dışındaki TokenLab yerel uç noktalarını kullanıyorsanız, bu istemciyi veya iş akışını ayrıca izleyin (instrument).

Bu sayfada