Frameworks y plataformas

Graphiti

Utiliza TokenLab como proveedor de LLM para Graphiti compatible con OpenAI

Descripción general

Graphiti admite endpoints /v1 compatibles con OpenAI a través de OpenAIGenericClient. Apunta ese cliente a TokenLab y elige un modelo de TokenLab.

Instalación

pip install graphiti-core httpx

Entorno

export TOKENLAB_API_KEY="sk-your-tokenlab-key"

Cliente LLM

import os

from graphiti_core.llm_client.config import LLMConfig
from graphiti_core.llm_client.openai_generic_client import OpenAIGenericClient

llm_config = LLMConfig(
    api_key=os.environ["TOKENLAB_API_KEY"],
    model="claude-sonnet-5",
    small_model="gpt-5.6-luna",
    base_url="https://api.tokenlab.sh/v1",
)

llm_client = OpenAIGenericClient(
    config=llm_config,
    structured_output_mode="json_object",
)

Pasa llm_client a tu instancia de Graphiti(...) junto con la configuración de tu base de datos de grafos y tu embedder.

Notas sobre el endpoint

La ruta compatible con OpenAI de Graphiti está orientada a chat-completions. Utiliza modelos que devuelvan JSON estructurado de forma fiable para tareas de extracción y deduplicación.

En esta página