Prompt flow

Gambaran UmumCopy Anchor Link

Koneksi OpenAI pada Prompt flow mendukung base_url kustom. Atur ke endpoint /v1 TokenLab dan gunakan ID model TokenLab di dalam flow Anda.

InstalasiCopy Anchor Link

pip install promptflow promptflow-tools

Membuat KoneksiCopy Anchor Link

Simpan koneksi berikut sebagai openai.yaml. Perintah meminta API key secara lokal. Pada node OpenAI, isi ID model TokenLab di inputs.model; deployment_name digunakan untuk Azure OpenAI.

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"

pf connection create --file openai.yaml

Catatan FlowCopy Anchor Link

Di dalam flow.dag.yaml Anda, pastikan nama koneksi selaras dengan perintah di atas:

nodes:
  - name: chat
    type: llm
    source:
      type: code
      path: chat.jinja2
    inputs:
      model: claude-sonnet-5
    api: chat
    connection: open_ai_connection

Catatan EndpointCopy Anchor Link

Integrasi ini menggunakan koneksi yang kompatibel dengan OpenAI dari Prompt flow. Respons Native TokenLab, Anthropic Messages, dan rute Gemini memerlukan alat Prompt flow atau node Python kustom yang memanggil endpoint tersebut secara langsung.