フレームワークとプラットフォーム
Graphiti
TokenLabをOpenAI互換のGraphiti LLMプロバイダーとして使用する
概要
Graphitiは、OpenAIGenericClientを通じてOpenAI互換の /v1 エンドポイントをサポートしています。そのクライアントをTokenLabに向け、TokenLabのモデルを選択してください。
インストール
pip install graphiti-core httpx環境設定
export TOKENLAB_API_KEY="sk-your-tokenlab-key"LLMクライアント
import os
from graphiti_core.llm_client.config import LLMConfig
from graphiti_core.llm_client.openai_generic_client import OpenAIGenericClient
llm_config = LLMConfig(
api_key=os.environ["TOKENLAB_API_KEY"],
model="claude-sonnet-5",
small_model="gpt-5.6-luna",
base_url="https://api.tokenlab.sh/v1",
)
llm_client = OpenAIGenericClient(
config=llm_config,
structured_output_mode="json_object",
)グラフデータベースおよびエンベッダーの設定とともに、llm_client を Graphiti(...) インスタンスに渡してください。
エンドポイントに関する注意点
GraphitiのOpenAI互換パスは、Chat Completions向けに設計されています。抽出や重複排除のタスクにおいて、構造化されたJSONを確実に返すモデルを使用してください。