Prompt flow

Descripción generalCopy Anchor Link

La conexión de OpenAI en Prompt flow admite un base_url personalizado. Configúrelo en el endpoint /v1 de TokenLab y utilice los ID de modelo de TokenLab en su flujo.

InstalaciónCopy Anchor Link

pip install promptflow promptflow-tools

Crear una conexiónCopy Anchor Link

Guarda la conexión siguiente en openai.yaml. El comando solicita la clave API localmente. En el nodo OpenAI, coloca el ID del modelo TokenLab en inputs.model; deployment_name corresponde a Azure OpenAI.

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"

pf connection create --file openai.yaml

Notas sobre el flujoCopy Anchor Link

En su archivo flow.dag.yaml, mantenga el nombre de la conexión alineado con el comando anterior:

nodes:
  - name: chat
    type: llm
    source:
      type: code
      path: chat.jinja2
    inputs:
      model: claude-sonnet-5
    api: chat
    connection: open_ai_connection

Notas sobre el endpointCopy Anchor Link

Esta integración utiliza la conexión compatible con OpenAI de Prompt flow. Las respuestas nativas de TokenLab, los mensajes de Anthropic y las rutas de Gemini requieren herramientas de Prompt flow o nodos de Python personalizados que llamen a esos endpoints directamente.