Ma trận tương thích
Khả năng tương thích của công cụ và SDK
Tìm cấu hình TokenLab phù hợp cho công cụ lập trình, ứng dụng trò chuyện, SDK và framework
Hầu hết công cụ có thể kết nối với TokenLab bằng cách đổi khóa API và URL cơ sở. Cấu hình cụ thể phụ thuộc vào định dạng API mà công cụ sử dụng được.
| Định dạng API | URL cơ sở | Ứng dụng khách phổ biến |
|---|---|---|
| Chat Completions (Tương thích OpenAI) | https://api.tokenlab.sh/v1 | SDK OpenAI, nhiều ứng dụng trò chuyện và framework |
| OpenAI Responses | https://api.tokenlab.sh/v1 | Ứng dụng khách Responses và công cụ sử dụng sự kiện Responses |
| Anthropic Messages | https://api.tokenlab.sh | SDK Anthropic và công cụ dành cho Claude |
| Gemini | https://api.tokenlab.sh | Ứng dụng khách REST và SDK Gemini cho phép tùy chỉnh máy chủ |
Mô hình được chọn phải liệt kê cùng định dạng đó trong accepted_request_formats. Truyền phát và gọi công cụ còn phụ thuộc vào khả năng của mô hình và ứng dụng khách. Xem ví dụ tại Định dạng API.
Nhãn tương thích
| Nhãn | Ý nghĩa |
|---|---|
| Tương thích | Cấu hình TokenLab trên trang được liên kết sử dụng các tùy chọn được tài liệu của ứng dụng khách hỗ trợ |
| Tương thích có giới hạn | Cấu hình áp dụng cho một số tính năng hoặc phương thức xác thực; các dịch vụ khác của nhà cung cấp vẫn có yêu cầu riêng |
Các nhãn này mô tả cấu hình trên trang được liên kết. Tính năng khả dụng còn phụ thuộc vào mô hình được chọn và phiên bản ứng dụng khách.
Công cụ lập trình
| Công cụ | Trạng thái | Định dạng API | Ghi chú |
|---|---|---|---|
| Claude Code | Tương thích | Anthropic Messages | Sử dụng ANTHROPIC_BASE_URL và khóa API TokenLab |
| Codex CLI | Tương thích có giới hạn | Responses | Sử dụng Responses; tính năng khả dụng phụ thuộc vào mô hình được chọn |
| Cursor | Tương thích có giới hạn | Tương thích OpenAI | Áp dụng cho các tính năng Cursor chấp nhận khóa API và URL tùy chỉnh |
| Cline | Tương thích | Tương thích OpenAI | Chọn OpenAI Compatible, rồi nhập URL cơ sở và ID mô hình |
| Kilo Code | Tương thích | Tương thích OpenAI | Sử dụng nhà cung cấp tùy chỉnh và ID mô hình |
| OpenCode | Tương thích | Tương thích OpenAI | Nạp cấu hình nhà cung cấp riêng bằng OPENCODE_CONFIG |
| OpenHands | Tương thích | Tương thích OpenAI | Giao diện dùng LiteLLM: Advanced → Custom Model (tiền tố openai/) và Base URL |
| Gemini CLI | Tương thích có giới hạn | Gemini | Sử dụng GOOGLE_GEMINI_BASE_URL với xác thực bằng khóa API; GEMINI_CLI_HOME riêng giữ nguyên cấu hình hiện có |
Ứng dụng trò chuyện
| Ứng dụng | Trạng thái | Ghi chú |
|---|---|---|
| Chatbox | Tương thích | Thêm nhà cung cấp OpenAI API Compatible |
| Cherry Studio | Tương thích | Thêm nhà cung cấp và hoàn tất Verify and Enable |
| DeepChat | Tương thích | Chọn OpenAI Completions để dùng Chat Completions |
| Jan | Tương thích | Thêm dịch vụ tương thích OpenAI |
| LibreChat | Tương thích | Cấu hình endpoint tùy chỉnh tương thích OpenAI |
| Open WebUI | Tương thích | Thêm kết nối tương thích OpenAI và chọn API Type là Chat |
SDK và framework
| Ứng dụng khách | Trạng thái | Cấu hình |
|---|---|---|
| OpenAI SDK | Tương thích | Đặt base_url / baseURL thành https://api.tokenlab.sh/v1 |
| Anthropic SDK | Tương thích | Đặt URL cơ sở thành https://api.tokenlab.sh |
| Vercel AI SDK | Tương thích | Tạo nhà cung cấp tùy chỉnh tương thích OpenAI |
| LangChain | Tương thích | Cấu hình ChatOpenAI hoặc OpenAIEmbeddings với URL TokenLab |
| LlamaIndex | Tương thích | Sử dụng các tùy chọn ứng dụng khách tương thích OpenAI |
| OpenAI Agents SDK | Tương thích có giới hạn | Hướng dẫn sử dụng OpenAIChatCompletionsModel; kiểm tra tính năng của mô hình và SDK trước khi dùng Responses |
| AutoGen | Tương thích | Sử dụng ứng dụng khách mô hình tương thích OpenAI |
| CrewAI | Tương thích | Cấu hình ứng dụng khách LLM tương thích OpenAI |
| PydanticAI | Tương thích | Cung cấp nhà cung cấp tương thích OpenAI |
Các framework, công cụ quan sát, gateway và sản phẩm đánh giá khác nằm trong mục điều hướng Integrations.
Mức sử dụng trong phản hồi truyền phát
Luồng Chat Completions chấp nhận stream_options: { include_usage: true }, thêm một đoạn cuối chứa thông tin sử dụng trước khi đóng luồng. API Responses không cung cấp include_usage; các luồng Responses báo mức sử dụng trong sự kiện kết thúc.
Những gì khóa API tùy chỉnh không thay thế
Một số sản phẩm kết hợp lệnh gọi mô hình với các tính năng do nhà cung cấp lưu trữ. Khóa TokenLab có thể phục vụ các yêu cầu mô hình được mở qua cài đặt BYOK, nhưng không thay thế các gói đăng ký khác, dịch vụ tự động hoàn thành, tính năng tài khoản hay tiện ích mở rộng độc quyền.
Nếu bản cập nhật công cụ thay đổi cách cấu hình, hãy dùng trang tích hợp hiện tại thay vì sao chép ví dụ biến môi trường cũ.
Trước khi phụ thuộc vào một tính năng
- Xác nhận công cụ cho phép URL cơ sở tùy chỉnh cho định dạng cần dùng.
- Xác nhận mô hình liệt kê định dạng đó trong
accepted_request_formats. - Thử truyền phát và gọi công cụ nếu quy trình của bạn cần chúng.
- Giữ khóa API trên thiết bị hoặc máy chủ đáng tin cậy.
- Ghi lại ID yêu cầu khi báo lỗi.