프레임워크 및 플랫폼
Prompt flow
Prompt flow OpenAI 연결을 통해 TokenLab 사용하기
개요
Prompt flow의 OpenAI 연결은 사용자 지정 base_url을 지원합니다. 이를 TokenLab의 /v1 엔드포인트로 설정하고 플로우에서 TokenLab 모델 ID를 사용하세요.
설치
pip install promptflow promptflow-tools연결 생성
아래 연결을 openai.yaml로 저장하세요. 명령은 로컬에서 API 키 입력을 요청합니다. OpenAI 흐름 노드의 inputs.model에 TokenLab 모델 ID를 넣으세요. deployment_name은 Azure OpenAI용입니다.
$schema: https://azuremlschemas.azureedge.net/promptflow/latest/OpenAIConnection.schema.json
name: open_ai_connection
type: open_ai
base_url: https://api.tokenlab.sh/v1
api_key: "<user-input>"pf connection create --file openai.yaml플로우 참고 사항
flow.dag.yaml에서 연결 이름을 위 명령과 일치하도록 유지하세요:
nodes:
- name: chat
type: llm
source:
type: code
path: chat.jinja2
inputs:
model: claude-sonnet-5
api: chat
connection: open_ai_connection엔드포인트 참고 사항
이 통합은 Prompt flow의 OpenAI 호환 연결을 사용합니다. 네이티브 TokenLab 응답, Anthropic 메시지 및 Gemini 경로는 Prompt flow 도구 또는 해당 엔드포인트를 직접 호출하는 사용자 지정 Python 노드가 필요합니다.