OpenAI: gpt-oss-120b
gpt-oss-120b- 입력 / 출력
- $0.15 / $0.60
- 컨텍스트
- 128K
- 최대 출력
- 64K
- 모달리티
- 채팅
- 기능
- 도구 사용프롬프트 캐시추론
gpt-oss-120b 소개
gpt-oss-120b는 OpenAI의 더 큰 오픈 웨이트 추론 모델로, Apache 2.0 라이선스로 출시되었습니다. 약 1,170억 개의 파라미터를 가진 Mixture-of-Experts(MoE) 모델이며, 토큰당 약 51억 개의 파라미터가 활성화되어 단일 H100 GPU에서 실행되도록 설계되었습니다. gpt-oss-20b와 비교하면 더 무거운 리소스를 사용하는 대신 더 강력한 추론 능력을 제공하며, 텍스트를 입력받아 텍스트를 출력합니다.
강점
- Apache 2.0 기반의 오픈 웨이트 모델이므로, API를 통해 호출하는 것과 동일한 모델을 직접 검사하고, 파인튜닝하며, 자체 호스팅할 수 있습니다.
- 추론 노력을 조절할 수 있어, 어려운 문제에는 더 많은 사고 시간을 할애하고 빠른 검색에는 적은 시간을 할애할 수 있습니다.
- 전체 사고 과정(Chain of Thought)을 확인할 수 있어, 모델이 왜 그러한 답변에 도달했는지 디버깅할 때 유용합니다.
- 네이티브 함수 호출, 웹 검색, 코드 실행, 구조화된 출력 기능을 지원하여 에이전트 스타일의 워크플로우에 적합합니다.
다른 모델이 필요한 경우
- 텍스트만 읽고 쓸 수 있으므로, 차트나 스캔 문서가 필요한 작업에는 다른 모델이 필요합니다.
- 학습 데이터가 2024년 중반에 종료되므로, 최근 사건에 대해서는 검색 도구나 제공된 컨텍스트가 필요합니다.
- 가장 어려운 폐쇄형 모델 추론 작업의 경우, 일반적으로 최첨단 독점 모델이 더 강력한 선택지로 남아 있습니다.
시작하기
API 키 만들기
Console에서 키를 만들고 플랫폼의 모든 모델에 사용하세요.
첫 번째 요청 보내기
사용 중인 언어의 예시를 복사하여 엔드포인트에 실행하세요.
텍스트-텍스트Responses APIPOST/v1/responsesAPI 형식:curl https://api.tokenlab.sh/v1/responses \ -H "Content-Type: application/json" \ -H "Authorization: Bearer sk-xxx" \ -d '{ "model": "gpt-oss-120b", "input": "Hello!" }'
가격 책정
Verified 가격은 Verified에 적용되며 대부분의 모델에서 더 저렴합니다. Official 가격은 모델 제조사가 공개한 가격으로, 더 안정적인 Official 경로에 적용됩니다. Auto는 요청을 완료한 경로의 가격으로 청구합니다.
기본 사양
1M Token 당- Official 가격
- 입력 $0.15 / 출력 $0.60 / 캐시 읽기 $0.075
- Verified 가격
- —
- 할인
- —
캐시 읽기
- Official 가격
- $0.075
- Verified 가격
- —
- 할인
- —
| Official 가격1M Token 당 | Verified 가격1M Token 당 | 할인 | |
|---|---|---|---|
| 기본 사양 | 입력 $0.15 / 출력 $0.60 / 캐시 읽기 $0.075 | — | — |
| 프롬프트 캐시 가격 | |||
| 캐시 읽기 | $0.075 | — | — |
사용량 및 활동
성공률은 완료된 요청의 비율입니다. 지연 시간은 전체 응답에 걸리는 시간이며, P95는 요청의 95%가 해당 시간 내에 완료되었음을 의미합니다.
사용량 및 가용성
지난 24시간- 요청
- 성공률
- P95 지연 시간
- 총 토큰
데이터는 상태 확인을 제외한 집계된 사용자 요청을 기반으로 합니다.
Console에서 열기
Console에서 gpt-oss-120b을 열고 프롬프트를 수정하거나 전송하세요.
/v1/responses에서 gpt-oss-120b로 짧은 메시지를 테스트합니다. 응답, 지연 시간, 비용을 확인하세요.
사용 사례
적합한 용도- 추론
자체 호스팅 가능한 추론 백엔드
호스팅된 모델로 프로토타입을 만든 후, 데이터 상주성이나 비용 관리가 필요할 때 동일한 가중치를 자신의 H100급 하드웨어로 옮길 수 있습니다.
도구 호출 에이전트
단계별로 노력을 조절하며 함수 호출, 웹 검색, 코드 실행을 수행하는 다단계 워크플로우를 구동합니다.
도메인 파인튜닝
오픈 웨이트 모델에서 시작하여 법률, 의료, 사내 엔지니어링 텍스트와 같은 전문 용어에 맞게 추론 모델을 조정할 수 있습니다.
감사 가능한 추론
규제가 엄격하거나 중요한 분석 작업에서 검토할 수 있도록 답변과 함께 가시적인 추론 과정을 유지합니다.
프롬프트 예제
함수가 빈 입력 리스트를 받을 때 잘못된 합계를 반환합니다. 원인을 추론한 다음, 두 개의 테스트 케이스를 포함하여 수정된 버전을 제시하세요.
두 개의 CSV 고객 송장 내보내기 파일을 대조하기 위한 단계를 계획하고, 각 단계에서 필요한 도구 호출이 무엇인지 설명하세요.
6개의 작업과 3개의 의존성이 있는 이 일정 퍼즐을 해결하고, 최종 순서 전에 추론 과정을 보여주세요.
이 모델은 조건부 요금제입니다. 월간 토큰 총량만으로는 신뢰할 수 있는 견적을 낼 수 없습니다. 요청 사양, 캐시, 해당 시간대에 맞는 상세 요금을 사용하세요.
FAQ
gpt-oss-120b는 어떤 종류의 모델인가요?
OpenAI의 더 큰 오픈 웨이트 추론 및 도구 사용 언어 모델입니다. 약 1,170억 개의 전체 파라미터와 51억 개의 활성 파라미터를 가진 Mixture-of-Experts 설계를 사용하며, Apache 2.0으로 출시되었고 텍스트를 입력받아 출력합니다.
gpt-oss-120b는 gpt-oss-20b와 어떻게 다른가요?
120b 모델은 단일 H100 배포를 위해 설계된 더 크고 뛰어난 모델이며, gpt-oss-20b는 약 210억 개의 파라미터(활성 36억 개)를 가지며 저지연, 로컬 또는 특수 목적을 대상으로 합니다. 추론 품질이 리소스 점유보다 중요하다면 120b를 선택하세요.
gpt-oss-120b를 파인튜닝하거나 자체 호스팅할 수 있나요?
둘 다 가능합니다. 가중치는 Apache 2.0 라이선스(카피레프트 제한 없음)로 Hugging Face에 공개되어 있으므로, 파인튜닝하여 자체 인프라에서 실행할 수 있습니다. OpenAI는 이 모델을 단일 H100 GPU에 맞게 크기를 조정했습니다.
gpt-oss-120b는 함수 호출과 구조화된 출력을 지원하나요?
네. OpenAI는 함수 호출, 구조화된 출력, 스트리밍, 그리고 웹 검색, 코드 실행, MCP와 같은 도구 사용을 문서화하고 있습니다. 지연 시간 목표에 맞춰 추론 노력을 조절할 수 있습니다.
gpt-oss-120b는 어떤 입력을 받나요?
이미지나 오디오는 지원하지 않으며, 입력과 출력 모두 텍스트입니다. 텍스트 추론과 도구 기반 단계에는 gpt-oss-120b를 사용하고, 시각적 자료가 필요하면 멀티모달 모델을 선택하세요.
gpt-oss-120b 의 가격은 얼마인가요?
TokenLab 에서 gpt-oss-120b 은 입력 $0.15 / 출력 $0.60 1M Token 당 입니다. 자세한 내역은 위 가격 표를 확인하세요. 요금은 청구 단위, 사양, 사용량에 따라 달라집니다. 모델의 상세 요금에서 동일한 조건끼리 비교하세요. 단일 요금으로 총비용이 결정되지 않습니다.
gpt-oss-120b의 컨텍스트 윈도우와 출력 제한은 어떻게 되나요?
gpt-oss-120b은 최대 131,072 토큰의 컨텍스트를 지원하며, 한 번의 응답으로 최대 65,536 토큰까지 출력합니다.
gpt-oss-120b 은 어떤 엔드포인트를 써야 하나요?
gpt-oss-120b에 대해 https://api.tokenlab.sh/v1/responses를 사용하세요. 아래 요청 예시는 일치하는 코드 형태를 보여줍니다.
gpt-oss-120b 은 어떤 오퍼레이션을 지원하나요?
gpt-oss-120b은(는) 텍스트-텍스트을(를) 지원합니다. 엔드포인트와 요청 예시를 보려면 위에서 작업을 선택하세요.
gpt-oss-120b 비교하기
출처
2026. 10. 2. 검토 완료
OpenAI 의 다른 모델