Frameworks & Plattformen
Prompt flow
Verwenden Sie TokenLab über OpenAI-Verbindungen in Prompt flow
Überblick
Die OpenAI-Verbindung von Prompt flow unterstützt eine benutzerdefinierte base_url. Setzen Sie diese auf den /v1-Endpunkt von TokenLab und verwenden Sie TokenLab-Modell-IDs in Ihrem Flow.
Installation
pip install promptflow promptflow-toolsEine Verbindung erstellen
Speichern Sie die untenstehende Verbindung als openai.yaml. Der Befehl fragt den API-Schlüssel lokal ab. Geben Sie in einem OpenAI-Flow-Knoten die TokenLab-Modell-ID in inputs.model ein; deployment_name ist für Azure OpenAI vorgesehen.
$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"pf connection create --file openai.yamlHinweise zum Flow
Stellen Sie in Ihrer flow.dag.yaml sicher, dass der Verbindungsname mit dem obigen Befehl übereinstimmt:
nodes:
- name: chat
type: llm
source:
type: code
path: chat.jinja2
inputs:
model: claude-sonnet-5
api: chat
connection: open_ai_connectionHinweise zu Endpunkten
Diese Integration verwendet die OpenAI-kompatible Verbindung von Prompt flow. Native TokenLab-Antworten, Anthropic-Messages und Gemini-Routen erfordern Prompt flow-Tools oder benutzerdefinierte Python-Knoten, die diese Endpunkte direkt aufrufen.