OpenAI: gpt-oss-120b
gpt-oss-120b- Đầu vào / Đầu ra
- $0.15 / $0.60
- Ngữ cảnh
- 128K
- Độ dài đầu ra tối đa
- 64K
- Phương thức
- Trò chuyện
- Khả năng
- Sử dụng công cụBộ nhớ đệm PromptSuy luận
Về gpt-oss-120b
gpt-oss-120b là mô hình suy luận có trọng số mở lớn hơn của OpenAI, được phát hành theo giấy phép Apache 2.0. Đây là mô hình hỗn hợp chuyên gia (mixture-of-experts) với khoảng 117 tỷ tham số, trong đó có khoảng 5,1 tỷ tham số hoạt động trên mỗi token, được thiết kế để chạy trên một GPU H100 duy nhất. So với gpt-oss-20b, mô hình này đánh đổi dung lượng lớn hơn để có khả năng suy luận mạnh mẽ hơn, đồng thời nhận đầu vào là văn bản và cho đầu ra là văn bản.
Ưu điểm
- Trọng số mở theo giấy phép Apache 2.0, vì vậy bạn có thể kiểm tra, tinh chỉnh và tự lưu trữ chính mô hình mà bạn gọi thông qua API.
- Nỗ lực suy luận có thể điều chỉnh được, cho phép bạn dành nhiều thời gian suy nghĩ hơn cho các vấn đề khó và ít thời gian hơn cho các tra cứu nhanh.
- Toàn bộ chuỗi suy nghĩ (chain of thought) đều có thể nhìn thấy được, điều này hữu ích khi bạn cần gỡ lỗi lý do tại sao mô hình đưa ra câu trả lời đó.
- Khả năng gọi hàm (function calling), tìm kiếm web, thực thi mã và xuất dữ liệu có cấu trúc phù hợp với các quy trình làm việc kiểu tác nhân (agent).
Khi nào nên chọn model khác
- Mô hình chỉ đọc và viết văn bản, vì vậy các tài liệu phụ thuộc vào biểu đồ hoặc bản quét cần một mô hình khác.
- Dữ liệu đào tạo của mô hình kết thúc vào giữa năm 2024, vì vậy các sự kiện gần đây cần công cụ tìm kiếm hoặc ngữ cảnh được cung cấp thêm.
- Đối với các tác vụ suy luận khó nhất của mô hình đóng, các mô hình độc quyền tiên phong thường vẫn là lựa chọn mạnh mẽ hơn.
Bắt đầu
Tạo API key
Tạo API key trong Console để dùng cho mọi mô hình trên nền tảng.
Gửi yêu cầu đầu tiên của bạn
Sao chép ví dụ cho ngôn ngữ của bạn và chạy nó với endpoint.
Văn bản sang văn bảnResponses APIPOST/v1/responsesĐịnh dạng API:curl https://api.tokenlab.sh/v1/responses \ -H "Content-Type: application/json" \ -H "Authorization: Bearer sk-xxx" \ -d '{ "model": "gpt-oss-120b", "input": "Hello!" }'
Giá
Giá Verified áp dụng cho Verified, thường rẻ hơn trên hầu hết các model. Giá Official là giá niêm yết từ nhà phát triển, áp dụng cho route Official ổn định hơn. Auto sẽ tính phí dựa trên route hoàn thành yêu cầu.
Thông số mặc định
mỗi 1M token- Giá Official
- Đầu vào $0.15 / Đầu ra $0.60 / Đọc bộ nhớ đệm $0.075
- Giá Verified
- —
- Giảm giá
- —
Đọc bộ nhớ đệm
- Giá Official
- $0.075
- Giá Verified
- —
- Giảm giá
- —
| Giá Officialmỗi 1M token | Giá Verifiedmỗi 1M token | Giảm giá | |
|---|---|---|---|
| Thông số mặc định | Đầu vào $0.15 / Đầu ra $0.60 / Đọc bộ nhớ đệm $0.075 | — | — |
| Giá cache của prompt | |||
| Đọc bộ nhớ đệm | $0.075 | — | — |
Sử dụng & hoạt động
Tỷ lệ thành công là tỷ lệ yêu cầu hoàn tất. Độ trễ là thời gian của một phản hồi đầy đủ; P95 nghĩa là 95% yêu cầu hoàn thành trong khoảng thời gian đó.
Mức sử dụng & tình trạng
24 giờ qua- Yêu cầu
- Tỷ lệ thành công
- Độ trễ P95
- Tổng token
Dữ liệu dựa trên các yêu cầu tổng hợp của người dùng, không bao gồm các kiểm tra trạng thái.
Mở trong Console
Mở gpt-oss-120b trong Console để chỉnh sửa và gửi prompt ngay.
Giúp tôi thử gpt-oss-120b với tin nhắn ngắn tại /v1/responses. Hiển thị phản hồi, độ trễ và chi phí.
Tình huống sử dụng
Phù hợp cho- Suy luận
Backend suy luận có thể tự lưu trữ
Tạo mẫu dựa trên mô hình được lưu trữ, sau đó chuyển cùng các trọng số đó sang phần cứng lớp H100 của riêng bạn khi cần lưu trú dữ liệu hoặc kiểm soát chi phí.
Tác nhân gọi công cụ
Điều khiển các quy trình làm việc nhiều bước bao gồm gọi hàm, tìm kiếm web và chạy mã, với nỗ lực có thể điều chỉnh cho từng bước.
Tinh chỉnh theo lĩnh vực
Bắt đầu từ các trọng số mở để điều chỉnh mô hình suy luận cho một từ vựng chuyên ngành như văn bản pháp lý, y tế hoặc kỹ thuật nội bộ.
Suy luận có thể kiểm toán
Giữ lại dấu vết suy luận hiển thị cùng với các câu trả lời để xem xét trong các phân tích có quy định hoặc có tính rủi ro cao.
Ví dụ prompt
Một hàm trả về tổng sai khi danh sách đầu vào trống. Hãy suy luận về nguyên nhân, sau đó đưa ra phiên bản đã sửa với hai trường hợp kiểm thử.
Lập kế hoạch các bước để đối chiếu hai tệp xuất CSV của hóa đơn khách hàng và cho biết bạn cần những lệnh gọi công cụ nào ở mỗi bước.
Giải câu đố lập lịch trình này với sáu tác vụ và ba phụ thuộc, đồng thời hiển thị quá trình suy luận trước khi đưa ra thứ tự cuối cùng.
Mô hình này có giá theo điều kiện. Chỉ tổng token hàng tháng không thể tạo ước tính đáng tin cậy; hãy dùng bảng giá chi tiết theo thông số yêu cầu, bộ nhớ đệm và khung giờ áp dụng.
FAQ
gpt-oss-120b là loại mô hình gì?
Đây là mô hình ngôn ngữ có trọng số mở lớn hơn của OpenAI dành cho việc suy luận và sử dụng công cụ. Nó sử dụng thiết kế hỗn hợp chuyên gia với khoảng 117 tỷ tham số tổng cộng và 5,1 tỷ tham số hoạt động, được phát hành theo giấy phép Apache 2.0, đồng thời chấp nhận và tạo ra văn bản.
gpt-oss-120b khác với gpt-oss-20b như thế nào?
Mô hình 120b là phiên bản lớn hơn, có năng lực hơn dành cho việc triển khai trên một GPU H100, trong khi gpt-oss-20b có khoảng 21 tỷ tham số với 3,6 tỷ tham số hoạt động và nhắm đến mục tiêu sử dụng cục bộ, độ trễ thấp hoặc chuyên biệt. Hãy chọn 120b khi chất lượng câu trả lời về suy luận quan trọng hơn dung lượng.
Tôi có thể tinh chỉnh hoặc tự lưu trữ gpt-oss-120b không?
Cả hai đều được. Các trọng số được công bố trên Hugging Face theo giấy phép Apache 2.0, không có hạn chế copyleft, vì vậy bạn có thể tinh chỉnh và chạy chúng trên cơ sở hạ tầng của riêng mình. OpenAI định cỡ mô hình này cho một GPU H100 duy nhất.
gpt-oss-120b có hỗ trợ gọi hàm và xuất dữ liệu có cấu trúc không?
Có. OpenAI cung cấp tài liệu về gọi hàm, xuất dữ liệu có cấu trúc, phát trực tuyến và sử dụng công cụ như tìm kiếm web, thực thi mã và MCP. Nỗ lực suy luận có thể được điều chỉnh để phù hợp với mục tiêu độ trễ của bạn.
gpt-oss-120b chấp nhận những đầu vào nào?
Không có hình ảnh hoặc âm thanh: cả đầu vào và đầu ra đều là văn bản. Hãy sử dụng gpt-oss-120b cho suy luận văn bản và các bước điều khiển bằng công cụ, và chọn một mô hình đa phương thức cho tài liệu hình ảnh.
gpt-oss-120b có giá bao nhiêu?
Trên TokenLab, gpt-oss-120b có giá Đầu vào $0.15 / Đầu ra $0.60 mỗi 1M token. Bảng giá phía trên cho thấy chi tiết đầy đủ. Giá phụ thuộc vào đơn vị tính phí, thông số và mức sử dụng. Hãy so sánh các điều kiện tương đương trong bảng giá chi tiết của mô hình; một mức giá đơn lẻ không quyết định tổng chi phí.
Giới hạn ngữ cảnh và đầu ra của gpt-oss-120b là bao nhiêu?
gpt-oss-120b hỗ trợ tối đa 131.072 token ngữ cảnh và trả về tối đa 65.536 token mỗi phản hồi.
gpt-oss-120b nên dùng endpoint nào?
Dùng https://api.tokenlab.sh/v1/responses làm mặc định cho gpt-oss-120b. Nếu mô hình hỗ trợ định dạng native của nhà cung cấp, API workbench cũng hiển thị endpoint đó.
gpt-oss-120b hỗ trợ những thao tác nào?
gpt-oss-120b hỗ trợ Văn bản sang văn bản. Chọn một thao tác trong API workbench phía trên để xem endpoint và mã ví dụ tương ứng.
So sánh gpt-oss-120b
Nguồn
Đánh giá ngày 2 thg 10, 2026
