Framework'ler ve platformlar

Prompt flow

TokenLab'i Prompt flow OpenAI bağlantıları aracılığıyla kullanın

Genel Bakış

Prompt flow'un OpenAI bağlantısı, özel bir base_url kullanımını destekler. Bunu TokenLab'in /v1 uç noktasına ayarlayın ve akışınızda TokenLab model kimliklerini kullanın.

Kurulum

pip install promptflow promptflow-tools

Bağlantı Oluşturma

Aşağıdaki bağlantıyı openai.yaml olarak kaydedin. Komut, yerel olarak API anahtarını ister. Bir OpenAI akış düğümünde, inputs.model kısmına TokenLab model kimliğini girin; deployment_name Azure OpenAI içindir.

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"
pf connection create --file openai.yaml

Akış Notları

flow.dag.yaml dosyanızda, bağlantı adını yukarıdaki komutla uyumlu tutun:

nodes:
  - name: chat
    type: llm
    source:
      type: code
      path: chat.jinja2
    inputs:
      model: claude-sonnet-5
    api: chat
    connection: open_ai_connection

Uç Nokta Notları

Bu entegrasyon, Prompt flow'un OpenAI uyumlu bağlantısını kullanır. Yerel TokenLab Yanıtları, Anthropic Mesajları ve Gemini rotaları, Prompt flow araçlarını veya bu uç noktaları doğrudan çağıran özel Python düğümlerini gerektirir.

Bu sayfada