Frameworks & Plattformen

Prompt flow

Verwenden Sie TokenLab über OpenAI-Verbindungen in Prompt flow

Überblick

Die OpenAI-Verbindung von Prompt flow unterstützt eine benutzerdefinierte base_url. Setzen Sie diese auf den /v1-Endpunkt von TokenLab und verwenden Sie TokenLab-Modell-IDs in Ihrem Flow.

Installation

pip install promptflow promptflow-tools

Eine Verbindung erstellen

Speichern Sie die untenstehende Verbindung als openai.yaml. Der Befehl fragt den API-Schlüssel lokal ab. Geben Sie in einem OpenAI-Flow-Knoten die TokenLab-Modell-ID in inputs.model ein; deployment_name ist für Azure OpenAI vorgesehen.

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"
pf connection create --file openai.yaml

Hinweise zum Flow

Stellen Sie in Ihrer flow.dag.yaml sicher, dass der Verbindungsname mit dem obigen Befehl übereinstimmt:

nodes:
  - name: chat
    type: llm
    source:
      type: code
      path: chat.jinja2
    inputs:
      model: claude-sonnet-5
    api: chat
    connection: open_ai_connection

Hinweise zu Endpunkten

Diese Integration verwendet die OpenAI-kompatible Verbindung von Prompt flow. Native TokenLab-Antworten, Anthropic-Messages und Gemini-Routen erfordern Prompt flow-Tools oder benutzerdefinierte Python-Knoten, die diese Endpunkte direkt aufrufen.

Auf dieser Seite