TokenLab

框架與平台

OpenLIT

使用 OpenLIT 監控 TokenLab 與 OpenAI 相容的請求

概覽

在將 SDK Base URL 變更為 TokenLab /v1 後,OpenLIT 可以記錄 OpenAI SDK 的呼叫。

安裝

pip install openlit openai

環境變數

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

範例

import os

import openlit
from openai import OpenAI

openlit.init()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)

端點注意事項

OpenLIT 遵循 SDK 檢測路徑。Chat Completions 是最安全的整合介面;其他 TokenLab 原生呼叫則取決於您的 OpenLIT/OpenTelemetry 設定是否擷取該 SDK 方法或 HTTP 客戶端。

本頁內容