框架与平台
Prompt flow
通过 Prompt flow OpenAI 连接使用 TokenLab
概述
在 Prompt flow OpenAI 连接中,把 base_url 设为 TokenLab /v1,并填写 TokenLab 模型 ID。
安装
pip install promptflow promptflow-tools创建连接
将下方连接保存为 openai.yaml。命令会在本地提示输入 API key。在 OpenAI 流节点中,将 TokenLab 模型 ID 填入 inputs.model;deployment_name 用于 Azure OpenAI。
$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"pf connection create --file openai.yaml在 flow.dag.yaml 中使用
在你的 flow.dag.yaml 中,保持连接名称与上述命令一致:
nodes:
- name: chat
type: llm
source:
type: code
path: chat.jinja2
inputs:
model: claude-sonnet-5
api: chat
connection: open_ai_connection端点注意事项
此配置使用 Prompt flow 的 OpenAI 兼容连接。Responses、Anthropic Messages 和 Gemini 格式需要由自定义 Python 节点直接调用。