Prompt flow

Visão geralCopy Anchor Link

A conexão OpenAI do Prompt flow suporta um base_url personalizado. Defina-o para o endpoint /v1 do TokenLab e utilize os IDs de modelo do TokenLab em seu fluxo.

InstalaçãoCopy Anchor Link

pip install promptflow promptflow-tools

Criar uma conexãoCopy Anchor Link

Salve a conexão abaixo em openai.yaml. O comando solicita a chave API localmente. No nó OpenAI, coloque o ID do modelo TokenLab em inputs.model; deployment_name é usado pelo Azure OpenAI.

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"

pf connection create --file openai.yaml

Notas sobre o fluxoCopy Anchor Link

Em seu flow.dag.yaml, mantenha o nome da conexão alinhado com o comando acima:

nodes:
  - name: chat
    type: llm
    source:
      type: code
      path: chat.jinja2
    inputs:
      model: claude-sonnet-5
    api: chat
    connection: open_ai_connection

Notas sobre o endpointCopy Anchor Link

Esta integração utiliza a conexão compatível com OpenAI do Prompt flow. Respostas nativas do TokenLab, Anthropic Messages e rotas do Gemini exigem ferramentas do Prompt flow ou nós Python personalizados que chamem esses endpoints diretamente.