框架與平台
Dify
使用 OpenAI-API-compatible 提供商與自訂 base URL 將 TokenLab 與 Dify 整合
概述
使用 OpenAI-API-compatible 模型提供商外掛程式將 Dify 連線至 TokenLab。將模型類型設為 LLM,Completion mode 設為 Chat,並將 API Type 設為 Chat Completions API。本指南使用 Chat Completions。
前置需求
- 具有 API 存取權限的 TokenLab 帳戶
- Dify Cloud 或自行託管的 Dify
設定步驟
步驟 1:取得您的 API 金鑰
- 登入 TokenLab 控制台
- 開啟 API Keys
- 建立或複製以
sk-開頭的 API 金鑰
步驟 2:設定提供商
開啟模型提供商
在 Dify 中,前往設定 → 模型提供商
選擇 OpenAI-API-compatible
開啟 OpenAI-API-compatible。如果未顯示,請從 Dify Marketplace 安裝該模型提供商外掛程式。選擇新增模型以輸入 TokenLab 設定。
輸入 TokenLab 設定
使用以下設定值:
| 欄位 | 設定值 |
|---|---|
| API Key | sk-your-tokenlab-key |
| Model type | LLM |
| Completion mode | Chat |
| API Type | Chat Completions API |
| API Base URL | https://api.tokenlab.sh/v1 |
新增模型
新增您想要使用的模型,例如:
gpt-5.4gpt-5.4-miniclaude-sonnet-5claude-opus-4-8gemini-3.8-flashgemini-3.1-flash-litedeepseek-v4.1-flash
步驟 3:測試連線
- 選擇您新增的模型,例如
gpt-5.4-mini。 - 傳送測試提示詞
- 確認 Dify 收到有效回應
知識庫的 Embeddings
針對 RAG 和知識庫索引,請新增 embedding 模型,例如:
text-embedding-3-smalltext-embedding-3-large
然後在相關知識庫或應用程式設定中將其設為預設 embedding 模型。
選擇模型
從模型頁面複製目前的聊天與 embedding 模型 ID。Dify 必須分開設定聊天與 embedding,且每個模型都必須支援該 Dify 元件所使用的 API。