Framework & platform

Prompt flow

Gunakan TokenLab melalui koneksi OpenAI di Prompt flow

Gambaran Umum

Koneksi OpenAI di Prompt flow mendukung base_url kustom. Atur ke endpoint /v1 milik TokenLab dan gunakan ID model TokenLab di dalam flow Anda.

Instalasi

pip install promptflow promptflow-tools

Membuat Koneksi

Simpan koneksi di bawah ini sebagai openai.yaml. Perintah tersebut akan meminta API key secara lokal. Di dalam node flow OpenAI, masukkan ID model TokenLab pada inputs.model; deployment_name digunakan untuk Azure OpenAI.

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"
pf connection create --file openai.yaml

Catatan Flow

Di dalam flow.dag.yaml Anda, pastikan nama koneksi selaras dengan perintah di atas:

nodes:
  - name: chat
    type: llm
    source:
      type: code
      path: chat.jinja2
    inputs:
      model: claude-sonnet-5
    api: chat
    connection: open_ai_connection

Catatan Endpoint

Integrasi ini menggunakan koneksi yang kompatibel dengan OpenAI dari Prompt flow. Respons TokenLab asli, Anthropic Messages, dan rute Gemini memerlukan alat Prompt flow atau node Python kustom yang memanggil endpoint tersebut secara langsung.

Di halaman ini