Prompt flow

Tổng quanCopy Anchor Link

Kết nối OpenAI của Prompt flow hỗ trợ base_url tùy chỉnh. Hãy đặt nó thành endpoint /v1 của TokenLab và sử dụng các ID mô hình của TokenLab trong flow của bạn.

Cài đặtCopy Anchor Link

pip install promptflow promptflow-tools

Tạo kết nốiCopy Anchor Link

Lưu kết nối bên dưới vào openai.yaml. Lệnh sẽ yêu cầu nhập API key cục bộ. Trong nút OpenAI, đặt ID mô hình TokenLab vào inputs.model; deployment_name dành cho Azure OpenAI.

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"

pf connection create --file openai.yaml

Lưu ý về FlowCopy Anchor Link

Trong tệp flow.dag.yaml của bạn, hãy giữ tên kết nối khớp với lệnh ở trên:

nodes:
  - name: chat
    type: llm
    source:
      type: code
      path: chat.jinja2
    inputs:
      model: claude-sonnet-5
    api: chat
    connection: open_ai_connection

Lưu ý về EndpointCopy Anchor Link

Tích hợp này sử dụng kết nối tương thích với OpenAI của Prompt flow. Các phản hồi Native TokenLab, Anthropic Messages và các route Gemini yêu cầu các công cụ của Prompt flow hoặc các node Python tùy chỉnh để gọi trực tiếp đến các endpoint đó.