OpenAI: gpt-oss-120b
gpt-oss-120b- 輸入 / 輸出
- $0.15 / $0.60
- 上下文
- 128K
- 最大輸出長度
- 64K
- 模態
- 對話
- 能力
- 工具使用提示詞快取推理
關於 gpt-oss-120b
gpt-oss-120b 是 OpenAI 較大型的開放權重推理模型,以 Apache 2.0 授權發布。這是一個混合專家模型(mixture-of-experts),擁有約 1170 億個參數,其中每個 token 約有 51 億個參數處於活躍狀態,其規模設計為可在單個 H100 GPU 上運行。與 gpt-oss-20b 相比,它以較大的資源佔用換取更強的推理能力,並採用文字輸入、文字輸出的運作方式。
適用場景
- 採用 Apache 2.0 開放權重,因此您可以檢查、微調並自行託管與您透過 API 呼叫相同的模型。
- 推理力度可調整,讓您能針對困難問題投入更多思考,並減少簡單查詢的耗時。
- 完整的思維鏈(chain of thought)可見,這有助於在需要除錯模型為何得出特定答案時進行分析。
- 原生支援函式呼叫、網頁搜尋、程式碼執行以及結構化輸出,適合代理(agent)風格的工作流程。
其他選擇建議
- 僅能讀寫文字,因此依賴圖表或掃描文件的任務需要使用其他模型。
- 其訓練資料截止於 2024 年年中,因此處理近期事件時需要搜尋工具或提供額外背景資訊。
- 對於最困難的封閉模型推理任務,前沿的專有模型通常仍是更強的選擇。
入門指南
建立 API 金鑰
請至 Console 建立金鑰,即可在平台上使用各類模型。
發送您的第一個請求
複製您所選語言的範例,並針對端點執行它。
文字轉文字Responses APIPOST/v1/responsesAPI 格式:curl https://api.tokenlab.sh/v1/responses \ -H "Content-Type: application/json" \ -H "Authorization: Bearer sk-xxx" \ -d '{ "model": "gpt-oss-120b", "input": "Hello!" }'
定價
Verified 價格用於 Verified,多數模型更便宜;Official 價格是模型廠商公布的價格,用於更穩定的 Official。Auto 按最終完成請求的線路計價。
預設規格
每 1M Token- Official 價格
- 輸入 $0.15 / 輸出 $0.60 / 快取讀取 $0.075
- Verified 價格
- —
- 折扣
- —
快取讀取
- Official 價格
- $0.075
- Verified 價格
- —
- 折扣
- —
| Official 價格每 1M Token | Verified 價格每 1M Token | 折扣 | |
|---|---|---|---|
| 預設規格 | 輸入 $0.15 / 輸出 $0.60 / 快取讀取 $0.075 | — | — |
| Prompt 快取價格 | |||
| 快取讀取 | $0.075 | — | — |
使用量與活動
成功率是請求完成的比例;延遲是一次完整回應所需的時間,P95 表示 95% 的請求在該時間內完成。
用量與可用性
過去 24 小時- 請求數
- 成功率
- P95 延遲
- 總 Token 用量
資料基於彙總的使用者請求,不包含狀態檢查。
直接在 Console 裡試
在 Console 中開啟 gpt-oss-120b,並準備好編輯或發送提示詞。
協助我使用 gpt-oss-120b 透過 /v1/responses 進行對話,並顯示回覆、延遲與成本。
應用情境
適合場景- 推理
可自行託管的推理後端
先針對託管模型進行原型設計,當資料駐留(data residency)或成本控制有需求時,再將相同的權重遷移至您自己的 H100 等級硬體上。
工具呼叫代理
驅動多步驟工作流程,執行函式呼叫、網頁搜尋及程式碼執行,並可針對每個步驟調整推理力度。
領域微調
從開放權重開始,將推理模型調整為適應專業詞彙,例如法律、醫療或內部工程文件。
可審計的推理
在答案旁保留可見的推理軌跡,以便在受監管或高風險分析場景中進行審查。
提示詞範例
當輸入列表為空時,某個函式會回傳錯誤的總計。請推論其原因,並提供包含兩個測試案例的修正版本。
規劃協調兩份客戶發票 CSV 匯出檔的步驟,並說明在每個步驟中需要哪些工具呼叫。
解決這個包含六個任務與三個依賴關係的排程難題,並在最終順序前展示推理過程。
此模型按條件計價,僅憑每月 token 總量無法可靠估算;請按請求規格、快取和適用時段查看詳細定價。
FAQ
gpt-oss-120b 是什麼類型的模型?
它是 OpenAI 用於推理與工具使用的較大型開放權重語言模型。它採用混合專家設計,總參數約 1170 億,活躍參數約 51 億,以 Apache 2.0 授權發布,並支援文字輸入與輸出。
gpt-oss-120b 與 gpt-oss-20b 有何不同?
120b 模型是體積更大、能力更強的同系列模型,專為單個 H100 部署而設計;而 gpt-oss-20b 擁有約 210 億個參數(36 億活躍參數),目標是低延遲、本地端或專門用途。當推理的答案品質比資源佔用更重要時,請選擇 120b。
我可以微調或自行託管 gpt-oss-120b 嗎?
兩者皆可。權重已在 Hugging Face 上以 Apache 2.0 授權發布,該授權沒有 Copyleft 限制,因此您可以對其進行微調並在自己的基礎設施上運行。OpenAI 將該模型的大小設計為適用於單個 H100 GPU。
gpt-oss-120b 是否支援函式呼叫與結構化輸出?
是的。OpenAI 提供了關於函式呼叫、結構化輸出、串流傳輸以及工具使用(如網頁搜尋、程式碼執行與 MCP)的文件。推理力度可以調整以符合您的延遲目標。
gpt-oss-120b 接受哪些輸入?
不支援影像或音訊:輸入與輸出皆為文字。請將 gpt-oss-120b 用於文字推理與工具驅動的步驟,若需處理視覺素材,請選擇多模態模型。
gpt-oss-120b 的費用是多少?
在 TokenLab 上,gpt-oss-120b 價格為 輸入 $0.15 / 輸出 $0.60 每 1M Token。完整明細見上方價格表。 價格因計費單位、規格和用量而異。請在模型的詳細定價中比較相同條件下的費率;單一費率不代表總價。
gpt-oss-120b 的上下文長度與輸出限制為何?
gpt-oss-120b 支援最高 131,072 tokens 的上下文,單次回應上限為 65,536 tokens。
gpt-oss-120b 應該使用哪一個端點?
請使用 https://api.tokenlab.sh/v1/responses 進行 gpt-oss-120b 的呼叫。下方的請求範例展示了對應的程式碼格式。
gpt-oss-120b 支援哪些操作?
gpt-oss-120b 支援 文字轉文字。請在上方選擇一項操作以查看其端點與請求範例。
比較 gpt-oss-120b
來源
更新於 2026年10月2日