TokenLab

Framework và nền tảng

Graphiti

Sử dụng TokenLab như một nhà cung cấp LLM Graphiti tương thích với OpenAI

Tổng quan

Graphiti hỗ trợ các endpoint /v1 tương thích với OpenAI thông qua OpenAIGenericClient. Hãy trỏ client đó vào TokenLab và chọn một model của TokenLab.

Cài đặt

pip install graphiti-core httpx

Môi trường

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

LLM Client

import os

from graphiti_core.llm_client.config import LLMConfig
from graphiti_core.llm_client.openai_generic_client import OpenAIGenericClient

llm_config = LLMConfig(
    api_key=os.environ["TOKENLAB_API_KEY"],
    model="claude-sonnet-5",
    small_model="gpt-5.6-luna",
    base_url="https://api.tokenlab.sh/v1",
)

llm_client = OpenAIGenericClient(
    config=llm_config,
    structured_output_mode="json_object",
)

Truyền llm_client vào instance Graphiti(...) của bạn cùng với cấu hình cơ sở dữ liệu đồ thị và bộ nhúng (embedder) của bạn.

Lưu ý về Endpoint

Đường dẫn tương thích với OpenAI của Graphiti được định hướng theo chat-completions. Hãy sử dụng các model có khả năng trả về JSON có cấu trúc một cách đáng tin cậy cho các tác vụ trích xuất và khử trùng lặp.

Trên trang này