TokenLab

框架與平台

Dify

使用 OpenAI-API-compatible 提供商與自訂 base URL 將 TokenLab 與 Dify 整合

概述

使用 OpenAI-API-compatible 模型提供商外掛程式將 Dify 連線至 TokenLab。將模型類型設為 LLM,Completion mode 設為 Chat,並將 API Type 設為 Chat Completions API。本指南使用 Chat Completions。

前置需求

  • 具有 API 存取權限的 TokenLab 帳戶
  • Dify Cloud 或自行託管的 Dify

設定步驟

步驟 1:取得您的 API 金鑰

  1. 登入 TokenLab 控制台
  2. 開啟 API Keys
  3. 建立或複製以 sk- 開頭的 API 金鑰

步驟 2:設定提供商

開啟模型提供商

在 Dify 中,前往設定 → 模型提供商

選擇 OpenAI-API-compatible

開啟 OpenAI-API-compatible。如果未顯示,請從 Dify Marketplace 安裝該模型提供商外掛程式。選擇新增模型以輸入 TokenLab 設定。

輸入 TokenLab 設定

使用以下設定值:

欄位設定值
API Keysk-your-tokenlab-key
Model typeLLM
Completion modeChat
API TypeChat Completions API
API Base URLhttps://api.tokenlab.sh/v1

新增模型

新增您想要使用的模型,例如:

  • gpt-5.4
  • gpt-5.4-mini
  • claude-sonnet-5
  • claude-opus-4-8
  • gemini-3.8-flash
  • gemini-3.1-flash-lite
  • deepseek-v4.1-flash

步驟 3:測試連線

  1. 選擇您新增的模型,例如 gpt-5.4-mini。
  2. 傳送測試提示詞
  3. 確認 Dify 收到有效回應

知識庫的 Embeddings

針對 RAG 和知識庫索引,請新增 embedding 模型,例如:

  • text-embedding-3-small
  • text-embedding-3-large

然後在相關知識庫或應用程式設定中將其設為預設 embedding 模型。

選擇模型

從模型頁面複製目前的聊天與 embedding 模型 ID。Dify 必須分開設定聊天與 embedding,且每個模型都必須支援該 Dify 元件所使用的 API。

最佳做法

疑難排解

本頁內容