フレームワークとプラットフォーム

OpenLIT

OpenLITを使用してTokenLabのOpenAI互換リクエストを監視する

概要

OpenLITは、SDKのBase URLをTokenLabの /v1 に変更した後、OpenAI SDKの呼び出しを記録できます。

インストール

pip install openlit openai

環境変数

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

例

import os

import openlit
from openai import OpenAI

openlit.init()

client = OpenAI(
    api_key=os.environ["TOKENLAB_API_KEY"],
    base_url="https://api.tokenlab.sh/v1",
)

response = client.chat.completions.create(
    model="claude-sonnet-5",
    messages=[{"role": "user", "content": "Hello from OpenLIT"}],
)

エンドポイントに関する注意点

OpenLITはSDKのインストルメンテーションパスに従います。Chat Completionsは最も安全な統合インターフェースです。その他のTokenLabネイティブな呼び出しについては、お使いのOpenLIT/OpenTelemetryの設定がそのSDKメソッドまたはHTTPクライアントをキャプチャできるかどうかに依存します。

このページの内容