Prompt flow

概覽Copy Anchor Link

Prompt flow 的 OpenAI 連線支援自訂 base_url。請將其設定為 TokenLab 的 /v1 端點，並在您的 flow 中使用 TokenLab 模型 ID。

安裝Copy Anchor Link

pip install promptflow promptflow-tools

建立連線Copy Anchor Link

將下方連線儲存為 openai.yaml。指令會在本機提示輸入 API key。在 OpenAI 流程節點中，將 TokenLab 模型 ID 填入 inputs.model；deployment_name 用於 Azure OpenAI。

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"

pf connection create --file openai.yaml

Flow 注意事項Copy Anchor Link

在您的 flow.dag.yaml 中，請確保連線名稱與上述指令一致：

nodes:
  - name: chat
    type: llm
    source:
      type: code
      path: chat.jinja2
    inputs:
      model: claude-sonnet-5
    api: chat
    connection: open_ai_connection

端點注意事項Copy Anchor Link

此整合使用 Prompt flow 的 OpenAI 相容連線。若要使用原生 TokenLab 回應、Anthropic Messages 以及 Gemini 路由，則需要使用 Prompt flow 工具或直接呼叫這些端點的自訂 Python 節點。