為每個請求選擇 Auto、TokenLab Verified 或 Official,並預先顯示價格。查看最新動態

OpenAI: gpt-oss-120b

GPT-OSS 120B 是 OpenAI 較大型的開放權重推理模型,採用混合專家(mixture-of-experts)架構。它適用於問題解決與工具驅動的工作流程,在這些場景中,開放模型的透明度與自訂潛力極具價值。
比較模型
gpt-oss-120b
可用OpenAI對話
輸入 / 輸出
$0.15 / $0.60
上下文
128K
最大輸出長度
64K
模態
對話
能力
工具使用提示詞快取推理

關於 gpt-oss-120b

gpt-oss-120b 是 OpenAI 較大型的開放權重推理模型,以 Apache 2.0 授權發布。這是一個混合專家模型(mixture-of-experts),擁有約 1170 億個參數,其中每個 token 約有 51 億個參數處於活躍狀態,其規模設計為可在單個 H100 GPU 上運行。與 gpt-oss-20b 相比,它以較大的資源佔用換取更強的推理能力,並採用文字輸入、文字輸出的運作方式。

適用場景

  • 採用 Apache 2.0 開放權重,因此您可以檢查、微調並自行託管與您透過 API 呼叫相同的模型。
  • 推理力度可調整,讓您能針對困難問題投入更多思考,並減少簡單查詢的耗時。
  • 完整的思維鏈(chain of thought)可見,這有助於在需要除錯模型為何得出特定答案時進行分析。
  • 原生支援函式呼叫、網頁搜尋、程式碼執行以及結構化輸出,適合代理(agent)風格的工作流程。

其他選擇建議

  • 僅能讀寫文字,因此依賴圖表或掃描文件的任務需要使用其他模型。
  • 其訓練資料截止於 2024 年年中,因此處理近期事件時需要搜尋工具或提供額外背景資訊。
  • 對於最困難的封閉模型推理任務,前沿的專有模型通常仍是更強的選擇。

入門指南

  1. 建立 API 金鑰

    請至 Console 建立金鑰,即可在平台上使用各類模型。

  2. 發送您的第一個請求

    複製您所選語言的範例,並針對端點執行它。

    文字轉文字Responses API
    POST/v1/responses
    API 格式:
    curl https://api.tokenlab.sh/v1/responses \
      -H "Content-Type: application/json" \
      -H "Authorization: Bearer sk-xxx" \
      -d '{
        "model": "gpt-oss-120b",
        "input": "Hello!"
      }'

定價

Verified 價格用於 Verified,多數模型更便宜;Official 價格是模型廠商公布的價格,用於更穩定的 Official。Auto 按最終完成請求的線路計價。

預設規格

每 1M Token
Official 價格
輸入 $0.15 / 輸出 $0.60 / 快取讀取 $0.075
Verified 價格
—
折扣
—
Prompt 快取價格

快取讀取

Official 價格
$0.075
Verified 價格
—
折扣
—

使用量與活動

成功率是請求完成的比例;延遲是一次完整回應所需的時間,P95 表示 95% 的請求在該時間內完成。

用量與可用性

過去 24 小時
請求數
成功率
P95 延遲
總 Token 用量
模型效能
當達到隱私權與資料量的門檻後,指標才會顯示。

資料基於彙總的使用者請求,不包含狀態檢查。

直接在 Console 裡試

在 Console 中開啟 gpt-oss-120b,並準備好編輯或發送提示詞。

協助我使用 gpt-oss-120b 透過 /v1/responses 進行對話,並顯示回覆、延遲與成本。

應用情境

適合場景
  • 推理
  • 可自行託管的推理後端

    先針對託管模型進行原型設計,當資料駐留(data residency)或成本控制有需求時,再將相同的權重遷移至您自己的 H100 等級硬體上。

  • 工具呼叫代理

    驅動多步驟工作流程,執行函式呼叫、網頁搜尋及程式碼執行,並可針對每個步驟調整推理力度。

  • 領域微調

    從開放權重開始,將推理模型調整為適應專業詞彙,例如法律、醫療或內部工程文件。

  • 可審計的推理

    在答案旁保留可見的推理軌跡,以便在受監管或高風險分析場景中進行審查。

提示詞範例

當輸入列表為空時,某個函式會回傳錯誤的總計。請推論其原因,並提供包含兩個測試案例的修正版本。

規劃協調兩份客戶發票 CSV 匯出檔的步驟,並說明在每個步驟中需要哪些工具呼叫。

解決這個包含六個任務與三個依賴關係的排程難題,並在最終順序前展示推理過程。

此模型按條件計價,僅憑每月 token 總量無法可靠估算;請按請求規格、快取和適用時段查看詳細定價。

FAQ

gpt-oss-120b 是什麼類型的模型?

它是 OpenAI 用於推理與工具使用的較大型開放權重語言模型。它採用混合專家設計,總參數約 1170 億,活躍參數約 51 億,以 Apache 2.0 授權發布,並支援文字輸入與輸出。

gpt-oss-120b 與 gpt-oss-20b 有何不同?

120b 模型是體積更大、能力更強的同系列模型,專為單個 H100 部署而設計;而 gpt-oss-20b 擁有約 210 億個參數(36 億活躍參數),目標是低延遲、本地端或專門用途。當推理的答案品質比資源佔用更重要時,請選擇 120b。

我可以微調或自行託管 gpt-oss-120b 嗎?

兩者皆可。權重已在 Hugging Face 上以 Apache 2.0 授權發布,該授權沒有 Copyleft 限制,因此您可以對其進行微調並在自己的基礎設施上運行。OpenAI 將該模型的大小設計為適用於單個 H100 GPU。

gpt-oss-120b 是否支援函式呼叫與結構化輸出?

是的。OpenAI 提供了關於函式呼叫、結構化輸出、串流傳輸以及工具使用(如網頁搜尋、程式碼執行與 MCP)的文件。推理力度可以調整以符合您的延遲目標。

gpt-oss-120b 接受哪些輸入?

不支援影像或音訊:輸入與輸出皆為文字。請將 gpt-oss-120b 用於文字推理與工具驅動的步驟,若需處理視覺素材,請選擇多模態模型。

gpt-oss-120b 的費用是多少?

在 TokenLab 上,gpt-oss-120b 價格為 輸入 $0.15 / 輸出 $0.60 每 1M Token。完整明細見上方價格表。 價格因計費單位、規格和用量而異。請在模型的詳細定價中比較相同條件下的費率;單一費率不代表總價。

gpt-oss-120b 的上下文長度與輸出限制為何?

gpt-oss-120b 支援最高 131,072 tokens 的上下文,單次回應上限為 65,536 tokens。

gpt-oss-120b 應該使用哪一個端點?

請使用 https://api.tokenlab.sh/v1/responses 進行 gpt-oss-120b 的呼叫。下方的請求範例展示了對應的程式碼格式。

gpt-oss-120b 支援哪些操作?

gpt-oss-120b 支援 文字轉文字。請在上方選擇一項操作以查看其端點與請求範例。

比較 gpt-oss-120b

來源

更新於 2026年10月2日

更多來自 GPT OSS 的模型

相關模型