Framework và nền tảng
Dify
Tích hợp TokenLab với Dify bằng cách sử dụng provider tương thích với OpenAI-API và URL cơ sở tùy chỉnh
Tổng quan
Sử dụng plugin provider mô hình tương thích với OpenAI-API để kết nối Dify với TokenLab. Thiết lập loại mô hình là LLM, Chế độ hoàn thiện (Completion mode) là Chat, và Loại API (API Type) là Chat Completions API. Hướng dẫn này sử dụng Chat Completions.
Điều kiện tiên quyết
- Tài khoản TokenLab có quyền truy cập API
- Dify Cloud hoặc Dify tự lưu trữ (self-hosted)
Các bước cấu hình
Bước 1: Lấy API Key của bạn
- Đăng nhập vào Bảng điều khiển TokenLab
- Mở API Keys
- Tạo hoặc sao chép một API key bắt đầu bằng
sk-
Bước 2: Cấu hình Provider
Mở các Model Provider
Trong Dify, truy cập Cài đặt → Model Providers
Chọn OpenAI-API-compatible
Mở OpenAI-API-compatible. Nếu không thấy, hãy cài đặt plugin model-provider đó từ Dify Marketplace. Chọn Thêm mô hình (Add model) để nhập các cài đặt TokenLab.
Nhập cài đặt TokenLab
Sử dụng các giá trị sau:
| Trường | Giá trị |
|---|---|
| API Key | sk-your-tokenlab-key |
| Loại mô hình | LLM |
| Chế độ hoàn thiện | Chat |
| Loại API | Chat Completions API |
| URL cơ sở API | https://api.tokenlab.sh/v1 |
Thêm mô hình
Thêm các mô hình bạn muốn sử dụng, ví dụ:
gpt-5.4gpt-5.4-miniclaude-sonnet-5claude-opus-4-8gemini-3.8-flashgemini-3.1-flash-litedeepseek-v4.1-flash
Bước 3: Kiểm tra kết nối
- Chọn một mô hình bạn đã thêm, ví dụ
gpt-5.4-mini. - Gửi một prompt kiểm tra
- Xác nhận Dify nhận được phản hồi hợp lệ
Embeddings cho Cơ sở tri thức (Knowledge Bases)
Đối với RAG và lập chỉ mục cơ sở tri thức, hãy thêm mô hình embedding như:
text-embedding-3-smalltext-embedding-3-large
Sau đó đặt nó làm mô hình embedding mặc định trong cơ sở tri thức hoặc cài đặt ứng dụng liên quan.
Chọn mô hình
Sao chép ID của các mô hình chat và embedding hiện tại từ trang Models. Dify phải cấu hình chat và embedding riêng biệt, và mỗi mô hình phải hỗ trợ API được thành phần Dify đó sử dụng.