フレームワークとプラットフォーム
Prompt flow
Prompt flowのOpenAI接続を介してTokenLabを使用する
概要
Prompt flowのOpenAI接続は、カスタムの base_url をサポートしています。これをTokenLabの /v1 エンドポイントに設定し、フロー内でTokenLabのモデルIDを使用してください。
インストール
pip install promptflow promptflow-tools接続の作成
以下の接続を openai.yaml に保存します。コマンドはローカルで API キーの入力を求めます。OpenAI ノードでは TokenLab モデル ID を inputs.model に指定します。deployment_name は Azure OpenAI 用です。
$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"pf connection create --file openai.yamlフローに関する注意点
flow.dag.yaml では、接続名を上記のコマンドと一致させてください。
nodes:
- name: chat
type: llm
source:
type: code
path: chat.jinja2
inputs:
model: claude-sonnet-5
api: chat
connection: open_ai_connectionエンドポイントに関する注意点
この統合では、Prompt flowのOpenAI互換接続を使用します。ネイティブのTokenLabレスポンス、Anthropic Messages、およびGeminiルートを利用するには、Prompt flowのツール、またはそれらのエンドポイントを直接呼び出すカスタムPythonノードが必要です。