Frameworks y plataformas

Prompt flow

Utilice TokenLab a través de las conexiones de OpenAI en Prompt flow

Descripción general

La conexión de OpenAI en Prompt flow admite un base_url personalizado. Establézcalo en el endpoint /v1 de TokenLab y utilice los ID de modelo de TokenLab en su flujo.

Instalación

pip install promptflow promptflow-tools

Crear una conexión

Guarde la siguiente conexión como openai.yaml. El comando solicitará la clave API localmente. En un nodo de flujo de OpenAI, coloque el ID del modelo de TokenLab en inputs.model; deployment_name es para Azure OpenAI.

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"
pf connection create --file openai.yaml

Notas sobre el flujo

En su flow.dag.yaml, mantenga el nombre de la conexión alineado con el comando anterior:

nodes:
  - name: chat
    type: llm
    source:
      type: code
      path: chat.jinja2
    inputs:
      model: claude-sonnet-5
    api: chat
    connection: open_ai_connection

Notas sobre el endpoint

Esta integración utiliza la conexión compatible con OpenAI de Prompt flow. Las respuestas nativas de TokenLab, los mensajes de Anthropic y las rutas de Gemini requieren herramientas de Prompt flow o nodos de Python personalizados que llamen a esos endpoints directamente.

En esta página