OpenRouter vs Portkey vs TokenLab: 라우팅, 관측 가능성(Observability) 및 비용

OpenRouter, Portkey, TokenLab은 AI 스택의 서로 다른 계층에 위치합니다. OpenRouter는 단일 API로 모델 제공업체에 요청을 전달하는 런타임 라우팅 게이트웨이입니다. Portkey는 런타임 게이트웨이에 관측 가능성(observability) 및 거버넌스 계층(로깅, 가드레일, 캐싱)이 추가된 형태입니다. TokenLab은 런타임 게이트웨이가 아닌 가격 및 기능 비교 리소스입니다. "이 작업에 비용이 얼마나 들까?"라는 질문에 대한 솔직한 답변은 다음과 같습니다. TokenLab의 실시간 가격 증거에 따르면 모델별 100만 토큰당 비용은 라우팅하는 모델에 따라 약 $0.27에서 $60까지 다양하지만, OpenRouter의 라우팅 마크업과 Portkey의 가격 책정 계층은 이 증거 세트에서 확인할 수 있는 형태로 공개되어 있지 않습니다. 프로덕션 워크로드를 예산에 반영하기 전에 해당 두 업체의 자체 가격 페이지를 확인해야 합니다.

이 기사에서는 TokenLab이 검증할 수 있는 구체적인 수치를 제공하고, 검증할 수 없는 내용을 명확히 밝히며, 대부분의 팀이 새로운 게이트웨이를 도입할 때 직면하는 통합 질문(엔드포인트, 인증, 오류 처리)에 대한 체크리스트를 제공합니다.

핵심 요약

• TokenLab의 실시간 가격 증거(2026-07-09 관측)에 따르면 텍스트 모델의 100만 입력 + 100만 출력 토큰당 비용은 $0.27(DeepSeek V4 Flash)에서 $60(Claude Fable 5) 사이입니다. 아래 전체 표를 참조하십시오.
• OpenRouter와 Portkey의 구체적인 마크업 비율 및 가격 책정 계층은 이 증거 세트에 포함되어 있지 않습니다. 이 기사의 어떤 수치도 해당 업체의 공식 게이트웨이 수수료로 간주하지 마십시오. 예산을 확정하기 전에 각 업체의 가격 페이지에서 직접 확인하십시오.
• OpenRouter는 통합 API 액세스 및 폴백(fallback) 체인을 갖춘 라우팅 계층입니다. Portkey는 유사한 라우팅 위에 요청 수준의 로깅, 가드레일, 프롬프트 관리를 추가합니다. 게이트웨이 기능 세트는 예고 없이 변경될 수 있으므로 각 업체의 문서에서 현재 기능 범위를 확인하십시오.
• TokenLab은 런타임 게이트웨이가 아니므로 라우팅 비용을 청구하지 않습니다. 통합 코드를 작성하기 전에 토큰당 비용을 비교할 수 있도록 모델 가격을 집계합니다.
• 다중 모델 게이트웨이 설정에서 가장 큰 미검증 비용 리스크는 게이트웨이의 기본 수수료가 아니라, 제공업체 중단 시 폴백 라우팅이 자동으로 더 비싼 모델로 트래픽을 전환하는 것입니다.

소스 스냅샷

소스	포함 범위	관측 시점
TokenLab 실시간 모델/가격 증거	TokenLab 카탈로그 내 Anthropic, OpenAI, Google, DeepSeek 및 기타 제공업체의 토큰당 가격	2026-07-09
OpenRouter 공식 문서	라우팅 메커니즘, 폴백 동작, 인증	이 증거 세트에서 독립적으로 검증되지 않음; 통합 전 직접 확인 요망
Portkey 공식 문서	가격 책정 계층, 로깅 보존, 가드레일 범위	이 증거 세트에서 독립적으로 검증되지 않음; 통합 전 직접 확인 요망

이번 업데이트를 위해 OpenRouter나 Portkey의 공식 가격/API 문서가 증거로 제공되지 않았으므로, 아래의 수수료 구조에 대한 모든 주장은 검증되지 않은 것으로 표시하며, 조작된 수치 대신 검증 단계를 함께 제시합니다.

각 도구의 실제 역할

OpenRouter는 라우팅 계층입니다. 하나의 API에 맞춰 형식화된 요청을 보내면, OpenRouter는 이를 지정된 제공업체와 모델로 전달하거나, 기본 모델을 사용할 수 없는 경우 목록에 있는 폴백 모델로 전달합니다. 이는 Claude Sonnet 5, GPT-5.5, Gemini 3.5 Flash 또는 DeepSeek V4 Pro와 같은 오픈 웨이트 모델 간에 제공업체 SDK별로 클라이언트 코드를 다시 작성하지 않고 라우팅하려는 경우 유용합니다. 모델 카탈로그는 자주 변경되므로 OpenRouter의 자체 문서에서 현재 지원되는 모델과 폴백 동작을 확인하십시오.

Portkey는 다중 제공업체 라우팅 위에 요청 로깅, 의미론적 캐싱, 가드레일(콘텐츠 필터링, PII 마스킹), 프롬프트 관리 계층을 추가합니다. 핵심 가치는 단순한 라우팅을 넘어 요청에 대한 감사 및 거버넌스 도구, 즉 특정 출력을 사용자, 비용 센터 또는 프롬프트 버전으로 추적하는 것입니다.

TokenLab은 런타임 게이트웨이가 아닙니다. 이는 비교 리소스로, 통합하기 전에 결정할 수 있도록 제공업체 전반의 현재 가격 및 모델 기능 데이터를 제공합니다. OpenRouter와 Portkey 사이에서 고민 중이거나 5개의 모델 제공업체 사이에서 선택해야 한다면, TokenLab의 비교 페이지는 프로덕션 트래픽 처리가 아닌 의사결정 시점을 위해 구축되었습니다.

LLM 게이트웨이 비교: 기능 매트릭스

기능	OpenRouter	Portkey	TokenLab	이 증거 세트에서 검증됨
통합 다중 제공업체 API	예 (일반적인 업체 설명 기준)	예 (일반적인 업체 설명 기준)	해당 없음, 비교 도구 전용	아니요, 업체 문서 확인
자동 장애 조치(failover) 라우팅	예 (일반적인 업체 설명 기준)	예 (일반적인 업체 설명 기준)	해당 없음	아니요, 업체 문서 확인
요청 수준 로깅/추적	제한적 (일반적인 업체 설명 기준)	광범위 (일반적인 업체 설명 기준)	해당 없음	아니요, 업체 문서 확인
가드레일 / PII 마스킹	제한적 (일반적인 업체 설명 기준)	예 (일반적인 업체 설명 기준)	해당 없음	아니요, 업체 문서 확인
공개된 라우팅 마크업 %	이 증거 세트에서 찾을 수 없음	이 증거 세트에서 찾을 수 없음	해당 없음, 마크업 없음	아니요
교차 제공업체 가격 비교	아니요	아니요	예	예, TokenLab 실시간 증거 (2026-07-09 관측)

이 표는 의도적으로 보수적으로 작성되었습니다. 모든 "제한적" 또는 "광범위" 라벨은 일반적인 업체 포지셔닝을 반영하며, 측정된 기능 감사나 벤치마크가 아니므로 이 증거 세트에서 벤치마킹되지 않았습니다. 이를 최종 점수표가 아닌 자체 시험을 위한 시작 체크리스트로 활용하십시오.

이번 주에 결정을 내려야 한다면: 게이트웨이를 선택하기 전에 TokenLab의 모델 페이지에서 현재 토큰당 모델 가격을 비교하십시오. 총 청구 금액은 어떤 게이트웨이가 요청을 전달하느냐보다 어떤 모델로 라우팅하느냐에 훨씬 더 큰 영향을 받기 때문입니다.

TokenLab 모델 가격: 100만 토큰의 실제 비용

이 표는 TokenLab의 실시간 가격 증거를 직접 사용합니다. 현재 카탈로그에 있는 텍스트 모델에 대해 100만 입력 토큰과 100만 출력 토큰을 처리하는 비용을 보여줍니다. 이는 게이트웨이 수수료가 아닌 모델 수준의 비용입니다. 이는 "모델 자체에 대량으로 얼마가 드는가"라는 질문에 답하며, 어떤 게이트웨이를 통하든 총 지출을 결정짓는 수치입니다.

모델	입력 $/MTok	출력 $/MTok	1M 입력 + 1M 출력 비용	소스	관측 시점
DeepSeek V4 Flash	$0.09	$0.18	$0.27	TokenLab 실시간 가격 증거	2026-07-09
Qwen3.7 Plus	$0.32	$1.28	$1.60	TokenLab 실시간 가격 증거	2026-07-09
MiniMax M3	$0.30	$1.20	$1.50	TokenLab 실시간 가격 증거	2026-07-09
DeepSeek V4 Pro	$0.435	$0.87	$1.305	TokenLab 실시간 가격 증거	2026-07-09
GLM-5.2	$0.93	$3.00	$3.93	TokenLab 실시간 가격 증거	2026-07-09
Kimi K2.7 Code	$0.74	$3.50	$4.24	TokenLab 실시간 가격 증거	2026-07-09
Gemini 3.5 Flash	$1.50	$9.00	$10.50	TokenLab 실시간 가격 증거	2026-07-09
Claude Sonnet 5	$2.00	$10.00	$12.00	TokenLab 실시간 가격 증거	2026-07-09
GPT-5.5 Batch/Flex	$2.50	$15.00	$17.50	TokenLab 실시간 가격 증거	2026-07-09
Claude Opus 4.8	$5.00	$25.00	$30.00	TokenLab 실시간 가격 증거	2026-07-09
GPT-5.5	$5.00	$30.00	$35.00	TokenLab 실시간 가격 증거	2026-07-09
Claude Fable 5	$10.00	$50.00	$60.00	TokenLab 실시간 가격 증거	2026-07-09

이 표에서 두 가지 사실을 알 수 있습니다. 첫째, 카탈로그에서 가장 저렴한 모델과 가장 비싼 모델 간의 격차는 100만 토큰당 기준으로 약 220배이며, 이는 어떠한 게이트웨이 마크업보다 훨씬 큽니다. 둘째, OpenRouter나 Portkey가 이 요금에 추가로 부과하는 금액이 얼마든, 각 업체에 직접 문의해야 합니다. 이 증거 세트에는 문서화되어 있지 않기 때문입니다. $60짜리 플래그십 모델 청구서에 붙는 몇 퍼센트의 게이트웨이 마크업은 $0.27짜리 DeepSeek V4 Flash 청구서에 붙는 동일한 마크업과 금액적으로 완전히 다르므로, 총 비용 관리를 위해서는 게이트웨이 선택보다 모델 선택이 훨씬 중요합니다.

Portkey vs OpenRouter: 라우팅 및 관측 가능성 차이

라우팅 동작은 OpenRouter와 Portkey가 가장 직접적으로 경쟁하는 부분입니다.

OpenRouter의 라우팅 모델을 사용하면 기본 모델과 폴백 목록을 지정할 수 있습니다. OpenRouter의 일반 제품 설명에 따르면, 기본 제공업체에서 오류가 발생하거나 시간 초과가 발생하면 요청은 목록의 다음 모델에 대해 재시도됩니다. 비용 측면에서 폴백 모델은 종종 다른 가격과 다른 출력 품질(위 표 참조)을 가지므로, 장애 조치 이벤트가 발생하면 요청당 비용이 예고 없이 변경될 수 있습니다. 요청한 모델뿐만 아니라 각 요청을 실제로 처리한 모델을 기록하십시오.

Portkey의 라우팅은 로깅 계층과 결합된 유사한 폴백 체인을 지원하므로, 언제 왜 폴백이 트리거되었고 비용이 얼마였는지 확인할 수 있습니다. 팀에 원시 모델의 다양성보다 거버넌스와 감사 추적이 더 중요하다면, 이 조합이 OpenRouter의 더 단순한 API 인터페이스보다 실질적인 차별화 요소가 됩니다.

어떤 도구도 제공업체 종속(lock-in) 리스크를 제거하지는 못합니다. 게이트웨이 API가 통합되어 있더라도 프롬프트 형식, 함수 호출 스키마, 컨텍스트 윈도우 동작은 여전히 기본 모델마다 다릅니다. 프로덕션에서 자동 장애 조치를 신뢰하기 전에 폴백 체인의 모든 모델에 대해 실제 프롬프트를 테스트하십시오. 더 저렴한 모델로의 폴백은 프롬프트 형식을 충족하지 못하는 모델로의 폴백을 의미할 수도 있기 때문입니다.

OpenRouter 및 Portkey API 통합: 호출 전 확인 사항

이번 업데이트를 위해 공식 OpenRouter 또는 Portkey 엔드포인트, 인증 헤더 형식 또는 요청/응답 스키마가 증거로 제공되지 않았습니다. 여기에 추측성 curl 명령어나 엔드포인트를 게시하는 것은 프로덕션에 복사하여 붙여넣는 사용자에게 오류를 일으킬 수 있으므로, 이 섹션은 샘플 코드가 아닌 검증 체크리스트입니다. 통합 코드를 한 줄이라도 작성하기 전에 각 업체의 현재 공식 API 참조에 대해 다음을 실행하십시오:

• 정확한 기본 엔드포인트 URL과 버전이 지정되어 있는지 확인하십시오(릴리스 간에 변경될 수 있는 버전 경로 세그먼트 확인).
• 인증 헤더 이름과 형식(API 키 헤더 vs. 베어러 토큰 vs. OAuth)을 확인하고, 키가 프로젝트별로 범위가 지정되는지 계정별로 지정되는지 확인하십시오.
• 호출하려는 모델의 정확한 모델 식별자 문자열 형식을 확인하십시오(제공업체 접두사가 붙은 슬러그가 게이트웨이 전반에서 흔하지만 정확한 형식은 다름).
• 요청 본문 스키마를 확인하십시오. 특히 자동 장애 조치를 사용할 계획이라면 폴백/모델 목록 순서가 어떻게 표현되는지 확인하십시오.
• 429 응답에 대한 속도 제한 헤더 및 동작을 확인하십시오(게이트웨이가 기본 제공업체의 제한 위에 자체 제한을 적용하는지 포함).
• 4xx 오류(잘못된 요청 vs. 인증 실패 vs. 모델을 찾을 수 없음)에 대한 동작을 확인하여 오류 처리가 성공할 수 없는 요청을 재시도하지 않고 올바르게 분기되도록 하십시오.
• 업스트림 제공업체의 5xx 및 503 응답에 대한 동작을 확인하고, 게이트웨이가 자동 재시도하는지 아니면 오류를 클라이언트로 그대로 전달하는지 확인하십시오.
• 시간 초과 기본값을 확인하고 요청별로 구성 가능한지 확인하십시오.
• 게이트웨이의 기본 폴백 체인이 비용 및 품질 허용 범위와 일치한다고 가정하지 말고, 명시적으로 직접 재시도/폴백 로직을 구축하십시오. 가동 시간에 최적화된 기본 체인은 눈에 띄는 경고 없이 기본 모델보다 100배 비싼 모델로 라우팅할 수 있습니다.

이 체크리스트는 OpenRouter와 Portkey 모두에 동일하게 적용됩니다. 현재 공식 문서를 대조하기 전까지는 두 게이트웨이 모두 프로덕션에 적용하지 마십시오.

비용 구조: 수치가 실제로 달라지는 곳

게이트웨이 가격 모델은 일반적인 업체 포지셔닝에 따라 요금뿐만 아니라 구조도 다릅니다:

• OpenRouter는 일반적으로 제공업체 가격에 약간의 라우팅 마크업을 더해 전달하는 것으로 설명됩니다. 정확한 마크업 비율은 이 증거 세트에 없습니다. 요금은 모델 및 제공업체마다 다를 수 있으므로 OpenRouter 문서에서 현재 가격을 직접 확인하십시오.
• Portkey는 일반적으로 기본 모델 비용과 별도로 요청 볼륨 및 기능 계층(로깅 보존, 가드레일 사용)을 기준으로 가격이 책정되는 것으로 설명됩니다. 정확한 계층 구분점과 가격은 이 증거 세트에 없습니다. Portkey의 가격 페이지에서 직접 확인하십시오.
• TokenLab은 런타임 게이트웨이가 아니므로 라우팅 비용을 청구하지 않습니다. 게이트웨이를 선택하기 전에 제공업체 전반의 토큰당 비용을 비교할 수 있도록 공개된 모델 가격을 집계합니다(위 표 참조).

다중 모델 설정에서 실질적인 비용 리스크는 기본 게이트웨이 수수료가 아니라 모니터링되지 않는 폴백 라우팅입니다. 폴백 체인이 기본 제공업체 중단 시 요청을 더 비싼 모델로 조용히 전환하면, 자체 로그에서 명확한 원인을 찾지 못한 채 청구서가 급증할 수 있습니다. 선택한 게이트웨이에서 비용 알림을 설정하고, 이 기사나 정적 비교 자료는 제공업체가 요금을 업데이트하면 최신 상태를 유지하지 못하므로 주기적으로 TokenLab의 가격 페이지와 현재 공개된 모델 요금을 대조하십시오.

제한 사항

• 이번 업데이트를 위해 공식 OpenRouter 또는 Portkey 가격/API 문서가 증거로 제공되지 않았습니다. 마크업 비율, 가격 책정 계층 또는 정확한 API 스키마에 대한 모든 주장은 위에서 검증되지 않은 것으로 표시되었으며 각 업체의 사이트에서 직접 확인해야 합니다.
• 기능 비교 표(예/제한적/광범위)는 일반적인 업체 포지셔닝을 반영하며, 측정된 기능 감사나 벤치마크가 아닙니다. 이 증거 세트에서 벤치마킹되지 않았습니다.
• TokenLab의 가격 표는 2026-07-09에 관측된 실시간 증거를 반영합니다. 모델 가격은 예고 없이 변경될 수 있으므로 프로덕션 워크로드를 예산에 반영하기 전에 다시 확인하십시오.
• 이 기사에는 OpenRouter나 Portkey의 라우팅 마크업 계산이 포함되어 있지 않습니다. 소스 수치가 제공되지 않았기 때문입니다. 예산 결정을 위해 해당 수치가 필요하다면 각 업체의 영업팀이나 문서 팀에 직접 요청하십시오.
• 정확한 엔드포인트, 인증 및 페이로드 스키마 증거가 제공되지 않았으므로 OpenRouter 또는 Portkey API를 호출하기 위한 코드 샘플은 포함되어 있지 않습니다. 타사 소스의 코드를 복사하는 대신 위의 검증 체크리스트를 사용하십시오.

의사결정 체크리스트

• 규정 준수를 위해 요청 수준의 감사 로깅이 필요합니까? 그렇다면 Portkey의 비중을 높게 두십시오.
• 최소한의 설정으로 가장 넓은 모델 카탈로그가 필요합니까? 그렇다면 OpenRouter의 비중을 높게 두십시오.
• 기본 모델뿐만 아니라 폴백 체인의 모든 모델에 대해 실제 프롬프트를 테스트했습니까?
• 퍼센트를 가정하는 대신 OpenRouter와 Portkey로부터 직접 서면 마크업이나 수수료 견적을 받았습니까?
• 게이트웨이 수수료를 추가하기 전에 모델 수준의 비용 하한선을 알 수 있도록 현재 토큰당 모델 가격(위 표 참조)을 비교했습니까?
• 코딩, 이미지 또는 비디오 생성과 같이 라우팅보다 기능 차이가 중요한 특정 워크로드를 위해 모델을 평가하고 있습니까? 게이트웨이별 기본 모델을 선택하기 전에 TokenLab의 코딩을 위한 최고의 AI 모델, 최고의 AI 이미지 모델, 최고의 AI 비디오 모델 가이드를 확인하십시오.
• 폴백으로 인한 가격 인상을 감지하기 위해 비용 알림을 설정했습니까?

AI 모델 가격 비교를 사용하여 프로덕션 코드에 게이트웨이를 통합하기 전에 TokenLab의 실시간 가격 데이터를 확인하십시오.

FAQ

TokenLab이 OpenRouter나 Portkey를 대체합니까? 아닙니다. TokenLab은 제공업체 전반의 가격과 기능을 평가하기 위한 비교 리소스입니다. OpenRouter와 Portkey는 실제 API 트래픽을 라우팅하고 로깅하는 런타임 도구입니다. TokenLab을 사용하여 모델 비용을 비교한 다음, 거버넌스 및 라우팅 요구 사항에 맞는 게이트웨이를 통합하십시오.

OpenRouter와 Portkey를 통해 100만 토큰을 라우팅할 때 게이트웨이 수수료로 얼마를 더 지불하게 됩니까? 이 증거 세트에는 두 업체에 대한 공개된 마크업 비율이나 수수료 일정이 포함되어 있지 않으므로, 임의로 수치를 정하지 않는 한 특정 금액을 명시할 수 없습니다. OpenRouter와 Portkey에 현재 수수료 견적을 직접 요청하십시오. 증거를 통해 확실히 말할 수 있는 것은 모델 수준의 비용 하한선입니다. DeepSeek V4 Flash를 통해 100만 입력 + 100만 출력 토큰을 라우팅하는 비용은 TokenLab의 관측 요금으로 $0.27이며, Claude Fable 5를 통하면 게이트웨이 수수료를 제외하고 $60.00입니다.

OpenRouter나 Portkey의 API 엔드포인트는 어디에 있으며 어떻게 인증합니까? 이 증거 세트에는 문서화되어 있지 않습니다. 통합 코드를 작성하기 전에 각 업체의 현재 공식 API 참조에 대해 위의 검증 체크리스트를 사용하십시오. 예고 없이 변경될 수 있는 엔드포인트나 인증 세부 정보에 대해 타사 기사를 신뢰하지 마십시오.

대용량 프로덕션 트래픽에 가장 저렴한 게이트웨이는 무엇입니까? 모델 조합, 재시도율, Portkey의 로깅 계층 필요 여부에 따라 다르며, 이 중 어느 것도 게이트웨이 수수료 자체에 대해 여기에서 정량화되지 않았습니다. OpenRouter와 Portkey의 자체 가격 페이지에서 현재 공개된 가격을 직접 비교하고, 모델 수준의 요금을 TokenLab의 가격 비교와 대조하십시오. 게이트웨이 수수료만으로 총 비용이 결정된다고 가정하지 마십시오. 라우팅하는 모델(위 표의 220배 가격 격차)이 보통 비용을 지배합니다.

프로덕션 AI 제품을 구축 중이고 게이트웨이를 고정하기 전에 현재 모델 요금을 비교해야 한다면, 통합 코드를 작성하기 전에 TokenLab의 실시간 가격 데이터로 시작하여 정확한 토큰당 비용을 확인하십시오.