TokenLab

프레임워크 및 플랫폼

Dify

OpenAI-API-compatible 제공자와 커스텀 base URL을 사용하여 TokenLab을 Dify와 연동합니다

개요

OpenAI-API-compatible 모델 제공자 플러그인을 사용하여 Dify를 TokenLab에 연결합니다. 모델 유형을 LLM, Completion mode를 Chat, API Type을 Chat Completions API로 설정합니다. 이 가이드에서는 Chat Completions를 사용합니다.

사전 요구 사항

  • API 접근 권한이 있는 TokenLab 계정
  • Dify Cloud 또는 자체 호스팅(self-hosted) Dify

설정 단계

1단계: API 키 발급받기

  1. TokenLab 대시보드에 로그인합니다.
  2. API Keys를 엽니다.
  3. sk-로 시작하는 API 키를 생성하거나 복사합니다.

2단계: 제공자 구성하기

Model Providers 열기

Dify에서 Settings → Model Providers로 이동합니다.

OpenAI-API-compatible 선택

OpenAI-API-compatible을 엽니다. 목록에 없는 경우 Dify Marketplace에서 해당 모델 제공자 플러그인을 설치합니다. Add model을 선택하여 TokenLab 설정을 입력합니다.

TokenLab 설정 입력

다음 값을 사용합니다:

필드값
API Keysk-your-tokenlab-key
Model typeLLM
Completion modeChat
API TypeChat Completions API
API Base URLhttps://api.tokenlab.sh/v1

모델 추가

사용하려는 모델을 추가합니다. 예시:

  • gpt-5.4
  • gpt-5.4-mini
  • claude-sonnet-5
  • claude-opus-4-8
  • gemini-3.8-flash
  • gemini-3.1-flash-lite
  • deepseek-v4.1-flash

3단계: 연결 테스트

  1. gpt-5.4-mini와 같이 추가한 모델을 선택합니다.
  2. 테스트 프롬프트를 전송합니다.
  3. Dify가 유효한 응답을 수신하는지 확인합니다.

지식 기반(Knowledge Base)을 위한 임베딩

RAG 및 지식 기반 인덱싱을 위해 다음과 같은 임베딩 모델을 추가합니다:

  • text-embedding-3-small
  • text-embedding-3-large

그런 다음 관련 지식 기반 또는 애플리케이션 설정에서 기본 임베딩 모델로 설정합니다.

모델 선택

Models 페이지에서 최신 대화 및 임베딩 모델 ID를 복사합니다. Dify에서는 대화와 임베딩을 별도로 구성해야 하며, 각 모델은 해당 Dify 컴포넌트에서 사용하는 API를 지원해야 합니다.

모범 사례

문제 해결

이 페이지의 내용