Framework & platform
Prompt flow
Gunakan TokenLab melalui koneksi OpenAI di Prompt flow
Gambaran Umum
Koneksi OpenAI di Prompt flow mendukung base_url kustom. Atur ke endpoint /v1 milik TokenLab dan gunakan ID model TokenLab di dalam flow Anda.
Instalasi
pip install promptflow promptflow-toolsMembuat Koneksi
Simpan koneksi di bawah ini sebagai openai.yaml. Perintah tersebut akan meminta API key secara lokal. Di dalam node flow OpenAI, masukkan ID model TokenLab pada inputs.model; deployment_name digunakan untuk Azure OpenAI.
$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"pf connection create --file openai.yamlCatatan Flow
Di dalam flow.dag.yaml Anda, pastikan nama koneksi selaras dengan perintah di atas:
nodes:
- name: chat
type: llm
source:
type: code
path: chat.jinja2
inputs:
model: claude-sonnet-5
api: chat
connection: open_ai_connectionCatatan Endpoint
Integrasi ini menggunakan koneksi yang kompatibel dengan OpenAI dari Prompt flow. Respons TokenLab asli, Anthropic Messages, dan rute Gemini memerlukan alat Prompt flow atau node Python kustom yang memanggil endpoint tersebut secara langsung.