Ma trận tương thích
Khả năng tương thích của công cụ và SDK
Tìm thiết lập TokenLab phù hợp cho các công cụ lập trình, ứng dụng chat, SDK và framework
Hầu hết các công cụ kết nối với TokenLab bằng cách thay đổi API key và base URL. Thiết lập chính xác phụ thuộc vào định dạng API mà công cụ đó có thể sử dụng.
| Định dạng API | Base URL | Các client phổ biến |
|---|---|---|
| Chat Completions (Tương thích với OpenAI) | https://api.tokenlab.sh/v1 | Các SDK của OpenAI, nhiều ứng dụng chat và framework |
| OpenAI Responses | https://api.tokenlab.sh/v1 | Các client Responses và công cụ được xây dựng dựa trên các sự kiện Responses |
| Anthropic Messages | https://api.tokenlab.sh | Các SDK của Anthropic và các công cụ hướng tới Claude |
| Gemini | https://api.tokenlab.sh | Các client REST và SDK của Gemini cho phép tùy chỉnh host |
Model được chọn phải liệt kê cùng định dạng trong accepted_request_formats. Việc streaming và gọi Skill (tool calling) cũng phụ thuộc vào khả năng của model và client. Xem Định dạng API để biết ví dụ.
Nhãn tương thích
| Nhãn | Ý nghĩa |
|---|---|
| Works | Thiết lập TokenLab được liên kết sử dụng các tùy chọn cấu hình đã được tài liệu hóa của client |
| Works with limits | Cấu hình áp dụng cho các tính năng hoặc chế độ xác thực cụ thể; các dịch vụ của nhà cung cấp khác vẫn giữ nguyên yêu cầu của riêng họ |
Các nhãn này mô tả cấu hình trên trang được liên kết. Tính khả dụng của tính năng cũng phụ thuộc vào model được chọn và phiên bản client.
Công cụ lập trình
| Công cụ | Trạng thái | Định dạng API | Ghi chú |
|---|---|---|---|
| Claude Code | Works | Anthropic Messages | Sử dụng ANTHROPIC_BASE_URL và một TokenLab API key |
| Codex CLI | Works with limits | Responses | Sử dụng Responses; các tính năng khả dụng phụ thuộc vào model được chọn |
| Cursor | Works with limits | Tương thích với OpenAI | Áp dụng cho các tính năng của Cursor chấp nhận API key và URL tùy chỉnh |
| Cline | Works | Tương thích với OpenAI | Chọn OpenAI Compatible và nhập base URL cùng model ID |
| Kilo Code | Works | Tương thích với OpenAI | Sử dụng nhà cung cấp tùy chỉnh và model ID |
| OpenCode | Works | Tương thích với OpenAI | Tải cấu hình nhà cung cấp riêng biệt với OPENCODE_CONFIG |
| OpenHands | Works | Tương thích với OpenAI | UI hỗ trợ bởi LiteLLM: Advanced → Custom Model (tiền tố openai/) và Base URL |
| Gemini CLI | Works with limits | Gemini | Sử dụng GOOGLE_GEMINI_BASE_URL với xác thực API-key; một GEMINI_CLI_HOME riêng biệt sẽ bảo toàn thiết lập hiện có |
| Visual Studio Code | Works with limits | Tương thích với OpenAI | Chat qua Custom Endpoint (Chat Completions); không cần gói Copilot cho chat. Các gợi ý nội dòng và tìm kiếm ngữ nghĩa vẫn cần GitHub |
Ứng dụng chat
| Ứng dụng | Trạng thái | Ghi chú |
|---|---|---|
| Chatbox | Works | Thêm nhà cung cấp OpenAI API Compatible |
| Cherry Studio | Works | Thêm nhà cung cấp và hoàn tất Verify and Enable |
| DeepChat | Works | Chọn OpenAI Completions cho Chat Completions |
| Jan | Works | Thêm dịch vụ tương thích với OpenAI |
| LibreChat | Works | Cấu hình endpoint tương thích với OpenAI tùy chỉnh |
| Open WebUI | Works | Thêm kết nối tương thích với OpenAI với API Type là Chat |
SDK và framework
| Client | Trạng thái | Thiết lập |
|---|---|---|
| OpenAI SDK | Works | Đặt base_url / baseURL thành https://api.tokenlab.sh/v1 |
| Anthropic SDK | Works | Đặt base URL thành https://api.tokenlab.sh |
| Vercel AI SDK | Works | Tạo nhà cung cấp tương thích với OpenAI tùy chỉnh |
| LangChain | Works | Cấu hình ChatOpenAI hoặc OpenAIEmbeddings với URL của TokenLab |
| LlamaIndex | Works | Sử dụng các tùy chọn client tương thích với OpenAI của nó |
| OpenAI Agents SDK | Works with limits | Hướng dẫn sử dụng OpenAIChatCompletionsModel; kiểm tra hỗ trợ tính năng của model và SDK trước khi sử dụng Responses |
| AutoGen | Works | Sử dụng model client tương thích với OpenAI |
| CrewAI | Works | Cấu hình LLM client tương thích với OpenAI của nó |
| PydanticAI | Works | Cung cấp nhà cung cấp tương thích với OpenAI |
Nhiều framework, công cụ quan sát, gateway và sản phẩm đánh giá khác được liệt kê trong phần điều hướng Integrations.
Sử dụng trong phản hồi dạng stream
Các stream Chat Completions chấp nhận stream_options: { include_usage: true }, giúp thêm một đoạn thông tin sử dụng cuối cùng trước khi stream đóng lại. API Responses không hiển thị include_usage; các stream Responses báo cáo mức sử dụng trên sự kiện terminal của chúng thay thế.
Những gì một API key tùy chỉnh không thay thế được
Một số sản phẩm kết hợp các lệnh gọi model với các tính năng do nhà cung cấp sản phẩm đó lưu trữ. Một key TokenLab có thể cung cấp năng lượng cho các yêu cầu model thông qua cài đặt BYOK, nhưng nó không thay thế các gói đăng ký không liên quan, dịch vụ tự động hoàn thành, tính năng tài khoản hoặc các tiện ích mở rộng độc quyền.
Khi một bản cập nhật công cụ thay đổi cấu hình của nó, hãy sử dụng trang tích hợp hiện tại thay vì sao chép đoạn mã biến môi trường cũ từ nơi khác.
Trước khi phụ thuộc vào một tính năng
- Xác nhận công cụ cho phép base URL tùy chỉnh cho định dạng bạn cần.
- Xác nhận model liệt kê định dạng đó trong
accepted_request_formats. - Kiểm tra việc streaming và gọi Skill nếu quy trình làm việc của bạn yêu cầu.
- Giữ API key trên máy tính hoặc máy chủ đáng tin cậy.
- Ghi lại Request ID khi báo cáo lỗi.