フレームワークとプラットフォーム
Prompt flow
Prompt flowのOpenAI接続を使用してTokenLabを利用する
概要
Prompt flowのOpenAI接続は、カスタムの base_url をサポートしています。これをTokenLabの /v1 エンドポイントに設定し、フロー内でTokenLabのモデルIDを使用してください。
インストール
pip install promptflow promptflow-tools接続の作成
以下の接続設定を openai.yaml として保存します。コマンドを実行すると、ローカルでAPIキーの入力を求められます。OpenAIフローノードの inputs.model にTokenLabのモデルIDを入力してください。deployment_name はAzure OpenAI用です。
$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"pf connection create --file openai.yamlフローに関する注意点
flow.dag.yaml 内で、接続名を上記のコマンドと一致させてください。
nodes:
- name: chat
type: llm
source:
type: code
path: chat.jinja2
inputs:
model: claude-sonnet-5
api: chat
connection: open_ai_connectionエンドポイントに関する注意点
この統合では、Prompt flowのOpenAI互換接続を使用します。ネイティブのTokenLabレスポンス、Anthropic Messages、およびGeminiルートを利用する場合は、Prompt flowツール、またはそれらのエンドポイントを直接呼び出すカスタムPythonノードが必要です。