프레임워크 및 플랫폼
Dify
OpenAI-API-compatible 제공자와 커스텀 base URL을 사용하여 TokenLab을 Dify와 연동합니다
개요
OpenAI-API-compatible 모델 제공자 플러그인을 사용하여 Dify를 TokenLab에 연결합니다. 모델 유형을 LLM, Completion mode를 Chat, API Type을 Chat Completions API로 설정합니다. 이 가이드에서는 Chat Completions를 사용합니다.
사전 요구 사항
- API 접근 권한이 있는 TokenLab 계정
- Dify Cloud 또는 자체 호스팅(self-hosted) Dify
설정 단계
1단계: API 키 발급받기
- TokenLab 대시보드에 로그인합니다.
- API Keys를 엽니다.
sk-로 시작하는 API 키를 생성하거나 복사합니다.
2단계: 제공자 구성하기
Model Providers 열기
Dify에서 Settings → Model Providers로 이동합니다.
OpenAI-API-compatible 선택
OpenAI-API-compatible을 엽니다. 목록에 없는 경우 Dify Marketplace에서 해당 모델 제공자 플러그인을 설치합니다. Add model을 선택하여 TokenLab 설정을 입력합니다.
TokenLab 설정 입력
다음 값을 사용합니다:
| 필드 | 값 |
|---|---|
| API Key | sk-your-tokenlab-key |
| Model type | LLM |
| Completion mode | Chat |
| API Type | Chat Completions API |
| API Base URL | https://api.tokenlab.sh/v1 |
모델 추가
사용하려는 모델을 추가합니다. 예시:
gpt-5.4gpt-5.4-miniclaude-sonnet-5claude-opus-4-8gemini-3.8-flashgemini-3.1-flash-litedeepseek-v4.1-flash
3단계: 연결 테스트
gpt-5.4-mini와 같이 추가한 모델을 선택합니다.- 테스트 프롬프트를 전송합니다.
- Dify가 유효한 응답을 수신하는지 확인합니다.
지식 기반(Knowledge Base)을 위한 임베딩
RAG 및 지식 기반 인덱싱을 위해 다음과 같은 임베딩 모델을 추가합니다:
text-embedding-3-smalltext-embedding-3-large
그런 다음 관련 지식 기반 또는 애플리케이션 설정에서 기본 임베딩 모델로 설정합니다.
모델 선택
Models 페이지에서 최신 대화 및 임베딩 모델 ID를 복사합니다. Dify에서는 대화와 임베딩을 별도로 구성해야 하며, 각 모델은 해당 Dify 컴포넌트에서 사용하는 API를 지원해야 합니다.