框架与平台

Prompt flow

通过 Prompt flow OpenAI 连接使用 TokenLab

概述

在 Prompt flow OpenAI 连接中,把 base_url 设为 TokenLab /v1,并填写 TokenLab 模型 ID。

安装

pip install promptflow promptflow-tools

创建连接

将下方连接保存为 openai.yaml。命令会在本地提示输入 API key。在 OpenAI 流节点中,将 TokenLab 模型 ID 填入 inputs.model;deployment_name 用于 Azure OpenAI。

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"
pf connection create --file openai.yaml

在 flow.dag.yaml 中使用

在你的 flow.dag.yaml 中,保持连接名称与上述命令一致:

nodes:
  - name: chat
    type: llm
    source:
      type: code
      path: chat.jinja2
    inputs:
      model: claude-sonnet-5
    api: chat
    connection: open_ai_connection

端点注意事项

此配置使用 Prompt flow 的 OpenAI 兼容连接。Responses、Anthropic Messages 和 Gemini 格式需要由自定义 Python 节点直接调用。

本页内容