Prompt flow

ÜbersichtCopy Anchor Link

Die OpenAI-Verbindung von Prompt flow unterstützt eine benutzerdefinierte base_url. Setzen Sie diese auf den /v1-Endpunkt von TokenLab und verwenden Sie TokenLab-Modell-IDs in Ihrem Flow.

InstallationCopy Anchor Link

pip install promptflow promptflow-tools

Eine Verbindung erstellenCopy Anchor Link

Speichere die Verbindung unten als openai.yaml. Der Befehl fragt den API-Schlüssel lokal ab. Verwende im OpenAI-Knoten inputs.model für die TokenLab-Modell-ID; deployment_name gehört zu Azure OpenAI.

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"

pf connection create --file openai.yaml

Hinweise zum FlowCopy Anchor Link

Stellen Sie in Ihrer flow.dag.yaml sicher, dass der Verbindungsname mit dem obigen Befehl übereinstimmt:

nodes:
  - name: chat
    type: llm
    source:
      type: code
      path: chat.jinja2
    inputs:
      model: claude-sonnet-5
    api: chat
    connection: open_ai_connection

Hinweise zum EndpunktCopy Anchor Link

Diese Integration nutzt die OpenAI-kompatible Verbindung von Prompt flow. Native TokenLab-Antworten, Anthropic-Messages und Gemini-Routen erfordern Prompt-flow-Tools oder benutzerdefinierte Python-Nodes, die diese Endpunkte direkt aufrufen.