Frameworks y plataformas
Prompt flow
Utilice TokenLab a través de las conexiones de OpenAI en Prompt flow
Descripción general
La conexión de OpenAI en Prompt flow admite un base_url personalizado. Establézcalo en el endpoint /v1 de TokenLab y utilice los ID de modelo de TokenLab en su flujo.
Instalación
pip install promptflow promptflow-toolsCrear una conexión
Guarde la siguiente conexión como openai.yaml. El comando solicitará la clave API localmente. En un nodo de flujo de OpenAI, coloque el ID del modelo de TokenLab en inputs.model; deployment_name es para Azure OpenAI.
$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"pf connection create --file openai.yamlNotas sobre el flujo
En su flow.dag.yaml, mantenga el nombre de la conexión alineado con el comando anterior:
nodes:
- name: chat
type: llm
source:
type: code
path: chat.jinja2
inputs:
model: claude-sonnet-5
api: chat
connection: open_ai_connectionNotas sobre el endpoint
Esta integración utiliza la conexión compatible con OpenAI de Prompt flow. Las respuestas nativas de TokenLab, los mensajes de Anthropic y las rutas de Gemini requieren herramientas de Prompt flow o nodos de Python personalizados que llamen a esos endpoints directamente.