Frameworks & Plattformen

Opik

Verfolgen Sie OpenAI-kompatible TokenLab-Anfragen mit Opik

Überblick

Leiten Sie einen OpenAI-Client auf TokenLab um und umschließen Sie diesen Client anschließend mit Opik, um Aufrufe aufzuzeichnen.

Installation

pip install opik openai

Umgebung

export TOKENLAB_API_KEY="sk-your-tokenlab-key"
export OPIK_PROJECT_NAME="tokenlab-integration-demo"

Den OpenAI-Client umschließen

Konfigurieren Sie Opik, bevor Sie dieses Beispiel ausführen: Opik Cloud erfordert OPIK_API_KEY und bei Bedarf OPIK_WORKSPACE. Für eine bestehende selbst gehostete Bereitstellung setzen Sie OPIK_URL_OVERRIDE auf die entsprechende API-URL, wie zum Beispiel http://localhost:5173/api. Weitere Informationen finden Sie im Opik-Konfigurationsleitfaden.

import os

from openai import OpenAI
from opik.integrations.openai import track_openai

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

openai_client = track_openai(client)

Eine Chat-Vervollständigung protokollieren

completion = openai_client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[
        {"role": "user", "content": "Summarize why LLM observability matters."}
    ],
)

print(completion.choices[0].message.content)

Hinweise zu Endpunkten

Dieses Setup verfolgt den Pfad des OpenAI-kompatiblen SDK. Wenn Sie native TokenLab-Endpunkte außerhalb des OpenAI-SDK verwenden, instrumentieren Sie diesen Client oder Workflow separat.

Auf dieser Seite