框架与平台

OpenLIT

使用 OpenLIT 监控 TokenLab OpenAI 兼容请求

概述

把 OpenAI SDK Base URL 改为 TokenLab /v1 后,OpenLIT 就能记录这些请求。

安装

pip install openlit openai

环境

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

示例

import os

import openlit
from openai import OpenAI

openlit.init()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)

端点说明

这份配置会记录 OpenAI SDK 的 Chat Completions 请求。其他 API 能否被记录,取决于 OpenLIT/OpenTelemetry 是否支持对应的 SDK 方法或 HTTP 客户端。

本页内容