Frameworks y plataformas
AutoGen
Utilice modelos de TokenLab con Microsoft AutoGen a través de clientes compatibles con OpenAI
Descripción general
AutoGen puede utilizar TokenLab a través de OpenAIChatCompletionClient, la misma ruta de cliente compatible con OpenAI que utiliza para otros endpoints personalizados de Chat Completions.
Instalación
pip install -U autogen-agentchat "autogen-ext[openai]" pyyamlEntorno
export TOKENLAB_API_KEY="sk-your-tokenlab-key"Configuración del modelo en YAML
Utilice el endpoint /v1 de TokenLab como base_url:
Guarda esta configuración como tokenlab-model.yaml:
provider: autogen_ext.models.openai.OpenAIChatCompletionClient
config:
model: claude-sonnet-5
base_url: https://api.tokenlab.sh/v1
model_info:
function_calling: true
json_output: true
structured_output: false
vision: false
family: claudeCarga el YAML y lee la clave API desde el entorno. YAML no sustituye las variables de entorno automáticamente:
import os
import yaml
from autogen_agentchat.agents import AssistantAgent
from autogen_core.models import ChatCompletionClient
with open("tokenlab-model.yaml", encoding="utf-8") as config_file:
config = yaml.safe_load(config_file)
config["config"]["api_key"] = os.environ["TOKENLAB_API_KEY"]
model_client = ChatCompletionClient.load_component(config)
agent = AssistantAgent("assistant", model_client=model_client)Cliente de Python
import os
from autogen_agentchat.agents import AssistantAgent
from autogen_ext.models.openai import OpenAIChatCompletionClient
model_client = OpenAIChatCompletionClient(
model="claude-sonnet-5",
base_url="https://api.tokenlab.sh/v1",
api_key=os.environ["TOKENLAB_API_KEY"],
model_info={
"function_calling": True,
"json_output": True,
"structured_output": False,
"vision": False,
"family": "claude",
},
)
agent = AssistantAgent("assistant", model_client=model_client)Enviar la primera solicitud
import asyncio
async def main():
try:
result = await agent.run(task="Reply with: Connected to TokenLab.")
print(result.messages[-1].content)
finally:
await model_client.close()
asyncio.run(main())Notas sobre el endpoint
La extensión de OpenAI para AutoGen espera la estructura de solicitud compatible con OpenAI. Para funciones nativas del proveedor, como Anthropic Messages o Gemini generateContent, utilice los endpoints nativos de TokenLab desde un cliente que admita esos protocolos directamente.