호환성 매트릭스
Tool and SDK compatibility
코딩 도구, 채팅 앱, SDK 및 프레임워크를 위한 올바른 TokenLab 설정 찾기
대부분의 도구는 API 키와 베이스 URL을 변경하여 TokenLab에 연결합니다. 정확한 설정 방법은 해당 도구가 사용할 수 있는 API 형식에 따라 다릅니다.
| API 형식 | 베이스 URL | 일반적인 클라이언트 |
|---|---|---|
| Chat Completions (OpenAI 호환) | https://api.tokenlab.sh/v1 | OpenAI SDK, 다수의 채팅 앱 및 프레임워크 |
| OpenAI Responses | https://api.tokenlab.sh/v1 | Responses 클라이언트 및 Responses 이벤트를 기반으로 구축된 도구 |
| Anthropic Messages | https://api.tokenlab.sh | Anthropic SDK 및 Claude 지향 도구 |
| Gemini | https://api.tokenlab.sh | 사용자 지정 호스트를 허용하는 Gemini REST 및 SDK 클라이언트 |
선택한 모델은 accepted_request_formats에 동일한 형식을 나열해야 합니다. 스트리밍 및 Tool calling 기능은 모델의 기능과 클라이언트에 따라 달라집니다. 예시는 API 형식을 참조하세요.
호환성 라벨
| 라벨 | 의미 |
|---|---|
| Works | 연결된 TokenLab 설정이 클라이언트의 문서화된 구성 옵션을 사용함 |
| Works with limits | 구성이 특정 기능이나 인증 모드에 적용됨; 다른 벤더 서비스는 자체 요구 사항을 유지함 |
이 라벨들은 연결된 페이지의 구성을 설명합니다. 기능 가용성은 선택한 모델 및 클라이언트 버전에도 따라 달라집니다.
코딩 도구
| 도구 | 상태 | API 형식 | 참고 사항 |
|---|---|---|---|
| Claude Code | Works | Anthropic Messages | ANTHROPIC_BASE_URL 및 TokenLab API 키 사용 |
| Codex CLI | Works with limits | Responses | Responses 사용; 사용 가능한 기능은 선택한 모델에 따라 다름 |
| Cursor | Works with limits | OpenAI-compatible | 사용자 지정 API 키와 URL을 허용하는 Cursor 기능에 적용 |
| Cline | Works | OpenAI-compatible | OpenAI Compatible을 선택하고 베이스 URL과 모델 ID를 입력 |
| Kilo Code | Works | OpenAI-compatible | 사용자 지정 공급자 및 모델 ID 사용 |
| OpenCode | Works | OpenAI-compatible | OPENCODE_CONFIG로 별도의 공급자 구성 로드 |
| OpenHands | Works | OpenAI-compatible | LiteLLM 기반 UI: Advanced → Custom Model (openai/ 접두사) 및 Base URL |
| Gemini CLI | Works with limits | Gemini | API 키 인증과 함께 GOOGLE_GEMINI_BASE_URL 사용; 별도의 GEMINI_CLI_HOME으로 기존 설정 유지 |
| Visual Studio Code | Works with limits | OpenAI-compatible | 사용자 지정 엔드포인트를 통한 채팅 (Chat Completions); 채팅을 위해 Copilot 플랜 불필요. 인라인 제안 및 의미론적 검색은 여전히 GitHub 필요 |
채팅 애플리케이션
| 앱 | 상태 | 참고 사항 |
|---|---|---|
| Chatbox | Works | OpenAI API Compatible 공급자 추가 |
| Cherry Studio | Works | 공급자 추가 및 Verify and Enable 완료 |
| DeepChat | Works | Chat Completions를 위해 OpenAI Completions 선택 |
| Jan | Works | OpenAI 호환 서비스 추가 |
| LibreChat | Works | 사용자 지정 OpenAI 호환 엔드포인트 구성 |
| Open WebUI | Works | API 유형 Chat으로 OpenAI 호환 연결 추가 |
SDK 및 프레임워크
| 클라이언트 | 상태 | 설정 |
|---|---|---|
| OpenAI SDK | Works | base_url / baseURL을 https://api.tokenlab.sh/v1로 설정 |
| Anthropic SDK | Works | 베이스 URL을 https://api.tokenlab.sh로 설정 |
| Vercel AI SDK | Works | 사용자 지정 OpenAI 호환 공급자 생성 |
| LangChain | Works | TokenLab URL로 ChatOpenAI 또는 OpenAIEmbeddings 구성 |
| LlamaIndex | Works | OpenAI 호환 클라이언트 옵션 사용 |
| OpenAI Agents SDK | Works with limits | 가이드에서 OpenAIChatCompletionsModel 사용; Responses 사용 전 모델 및 SDK 기능 지원 확인 |
| AutoGen | Works | OpenAI 호환 모델 클라이언트 사용 |
| CrewAI | Works | OpenAI 호환 LLM 클라이언트 구성 |
| PydanticAI | Works | OpenAI 호환 공급자 제공 |
더 많은 프레임워크, 관측 가능성 도구, 게이트웨이 및 평가 제품은 Integrations 탐색 메뉴에 나열되어 있습니다.
스트리밍 응답에서의 사용
Chat Completions 스트림은 stream_options: { include_usage: true }를 허용하며, 이는 스트림이 닫히기 전에 최종 사용량 청크를 추가합니다. Responses API는 include_usage를 노출하지 않으며, Responses 스트림은 대신 터미널 이벤트에서 사용량을 보고합니다.
사용자 지정 API 키가 대체하지 않는 것
일부 제품은 모델 호출과 제품 벤더가 호스팅하는 기능을 혼합합니다. TokenLab 키는 BYOK 설정을 통해 노출되는 모델 요청을 구동할 수 있지만, 관련 없는 구독, 자동 완성 서비스, 계정 기능 또는 독점 확장을 대체하지는 않습니다.
도구 업데이트로 구성이 변경되면, 다른 곳에서 오래된 환경 변수 스니펫을 복사하는 대신 현재 통합 페이지를 사용하세요.
기능 사용 전 확인 사항
- 도구가 필요한 형식에 대해 사용자 지정 베이스 URL을 허용하는지 확인하세요.
- 모델이
accepted_request_formats에 해당 형식을 나열하는지 확인하세요. - 워크플로우에 필요한 경우 스트리밍 및 Tool calling을 테스트하세요.
- API 키를 신뢰할 수 있는 머신이나 서버에 보관하세요.
- 실패 보고 시 Request ID를 기록하세요.