TokenLab

Frameworks et plateformes

Prompt flow

Utilisez TokenLab via les connexions OpenAI de Prompt flow

Aperçu

La connexion OpenAI de Prompt flow prend en charge un base_url personnalisé. Définissez-le sur le point de terminaison /v1 de TokenLab et utilisez les ID de modèle TokenLab dans votre flux.

Installation

pip install promptflow promptflow-tools

Créer une connexion

Enregistrez la connexion ci-dessous dans openai.yaml. La commande demande la clé API localement. Dans un nœud OpenAI, placez l’ID du modèle TokenLab dans inputs.model ; deployment_name concerne Azure OpenAI.

$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"
pf connection create --file openai.yaml

Remarques sur le flux

Dans votre flow.dag.yaml, assurez-vous que le nom de la connexion correspond à la commande ci-dessus :

nodes:
  - name: chat
    type: llm
    source:
      type: code
      path: chat.jinja2
    inputs:
      model: claude-sonnet-5
    api: chat
    connection: open_ai_connection

Remarques sur les points de terminaison

Cette intégration utilise la connexion compatible OpenAI de Prompt flow. Les réponses natives TokenLab, les messages Anthropic et les routes Gemini nécessitent des outils Prompt flow ou des nœuds Python personnalisés qui appellent directement ces points de terminaison.

Sur cette page