OpenAI: gpt-oss-120b
gpt-oss-120b- Masukan / Keluaran
- $0.15 / $0.60
- Konteks
- 128K
- Output maksimal
- 64K
- Modalitas
- Obrolan
- Kapabilitas
- Penggunaan toolCache PromptPenalaran
Tentang gpt-oss-120b
gpt-oss-120b adalah model penalaran open-weight yang lebih besar dari OpenAI, dirilis di bawah lisensi Apache 2.0. Ini adalah model mixture-of-experts dengan sekitar 117 miliar parameter, di mana sekitar 5,1 miliar di antaranya aktif per token, yang dirancang untuk dijalankan pada satu GPU H100. Dibandingkan dengan gpt-oss-20b, model ini menukar jejak memori yang lebih besar dengan penalaran yang lebih kuat, serta menerima input teks dan menghasilkan output teks.
Kelebihan
- Open weights di bawah lisensi Apache 2.0, sehingga Anda dapat memeriksa, melakukan fine-tuning, dan melakukan self-host pada model yang sama dengan yang Anda panggil melalui API.
- Upaya penalaran dapat disesuaikan, memungkinkan Anda untuk mengalokasikan lebih banyak waktu berpikir pada masalah yang sulit dan lebih sedikit pada pencarian cepat.
- Rantai pemikiran (chain of thought) penuh dapat dilihat, yang membantu ketika Anda perlu men-debug mengapa model mencapai suatu jawaban.
- Pemanggilan fungsi (function calling) bawaan, pencarian web, eksekusi kode, dan output terstruktur cocok untuk alur kerja bergaya agen.
Kapan harus beralih
- Model ini hanya membaca dan menulis teks, jadi dokumen yang bergantung pada grafik atau hasil pindai memerlukan model yang berbeda.
- Data pelatihannya berakhir pada pertengahan 2024, jadi peristiwa terkini memerlukan alat pencarian atau konteks yang disediakan.
- Untuk tugas penalaran model tertutup yang paling sulit, model berpemilik (proprietary) terdepan biasanya tetap menjadi pilihan yang lebih kuat.
Memulai
Buat API key
Buat kunci di Console, gunakan untuk semua model di platform.
Kirim permintaan pertama Anda
Salin contoh untuk bahasa Anda dan jalankan terhadap endpoint tersebut.
Teks ke teksResponses APIPOST/v1/responsesFormat API:curl https://api.tokenlab.sh/v1/responses \ -H "Content-Type: application/json" \ -H "Authorization: Bearer sk-xxx" \ -d '{ "model": "gpt-oss-120b", "input": "Hello!" }'
Penetapan Harga
Harga Verified berlaku untuk Verified yang lebih murah di sebagian besar model. Harga Official adalah harga resmi dari pembuat model dan berlaku untuk rute Official yang lebih andal. Auto menagihkan biaya berdasarkan rute yang menyelesaikan permintaan.
Spesifikasi default
per 1M token- Harga Official
- Masukan $0.15 / Keluaran $0.60 / Pembacaan cache $0.075
- Harga Verified
- —
- Diskon
- —
Pembacaan cache
- Harga Official
- $0.075
- Harga Verified
- —
- Diskon
- —
| Harga Officialper 1M token | Harga Verifiedper 1M token | Diskon | |
|---|---|---|---|
| Spesifikasi default | Masukan $0.15 / Keluaran $0.60 / Pembacaan cache $0.075 | — | — |
| Harga cache prompt | |||
| Pembacaan cache | $0.075 | — | — |
Penggunaan & aktivitas
Tingkat keberhasilan adalah proporsi permintaan yang selesai. Latensi adalah berapa lama respons penuh berlangsung; P95 berarti 95% permintaan selesai dalam waktu tersebut.
Penggunaan & ketersediaan
24 jam terakhir- Permintaan
- Tingkat keberhasilan
- Latensi P95
- Total token
Data didasarkan pada permintaan pengguna gabungan, tidak termasuk pemeriksaan status.
Buka di Console
Buka gpt-oss-120b di Console dengan prompt siap diedit atau dikirim.
Bantu saya mencoba gpt-oss-120b dengan pesan singkat di /v1/responses. Tampilkan balasan, latensi, dan biayanya.
Skenario penggunaan
Cocok untuk- Penalaran
Backend penalaran yang dapat di-self-host
Lakukan pembuatan prototipe menggunakan model yang di-host, lalu pindahkan bobot yang sama ke perangkat keras kelas H100 milik Anda sendiri saat residensi data atau kontrol biaya memerlukannya.
Agen pemanggil alat (tool-calling agents)
Jalankan alur kerja multi-langkah yang memanggil fungsi, mencari di web, dan menjalankan kode, dengan upaya yang dapat disesuaikan di setiap langkah.
Fine-tuning domain
Mulai dari open weights untuk mengadaptasi model penalaran ke kosakata spesialis seperti teks hukum, medis, atau teknik internal.
Penalaran yang dapat diaudit
Simpan jejak penalaran yang terlihat bersama jawaban untuk ditinjau dalam analisis yang diatur atau berisiko tinggi.
Contoh prompt
Sebuah fungsi mengembalikan total yang salah ketika daftar input kosong. Berikan penalaran mengenai penyebabnya, lalu berikan versi yang dikoreksi dengan dua kasus uji.
Rencanakan langkah-langkah untuk merekonsiliasi dua ekspor CSV faktur pelanggan, dan sebutkan panggilan alat apa yang Anda perlukan di setiap langkah.
Selesaikan teka-teki penjadwalan ini dengan enam tugas dan tiga dependensi, dan tunjukkan penalarannya sebelum urutan akhir.
Model ini memiliki harga kondisional. Total token bulanan saja tidak dapat menghasilkan estimasi yang andal; gunakan harga detail untuk spesifikasi permintaan, cache, dan jendela waktu yang berlaku.
FAQ
Model seperti apa gpt-oss-120b itu?
Ini adalah model bahasa open-weight yang lebih besar dari OpenAI untuk penalaran dan penggunaan alat. Model ini menggunakan desain mixture-of-experts dengan sekitar 117 miliar total parameter dan 5,1 miliar parameter aktif, dirilis di bawah Apache 2.0, serta menerima dan menghasilkan teks.
Apa perbedaan gpt-oss-120b dengan gpt-oss-20b?
Model 120b adalah model yang lebih besar dan lebih mumpuni yang ditujukan untuk penerapan pada satu H100, sementara gpt-oss-20b memiliki sekitar 21 miliar parameter dengan 3,6 miliar parameter aktif dan menargetkan penggunaan latensi rendah, lokal, atau khusus. Pilih 120b jika kualitas jawaban pada penalaran lebih penting daripada jejak memori.
Bisakah saya melakukan fine-tune atau self-host gpt-oss-120b?
Keduanya bisa. Bobotnya dipublikasikan di Hugging Face di bawah Apache 2.0, yang tidak memiliki batasan copyleft, sehingga Anda dapat melakukan fine-tune dan menjalankannya di infrastruktur Anda sendiri. OpenAI menyesuaikan ukuran model ini untuk satu GPU H100.
Apakah gpt-oss-120b mendukung pemanggilan fungsi dan output terstruktur?
Ya. OpenAI mendokumentasikan pemanggilan fungsi, output terstruktur, streaming, dan penggunaan alat seperti pencarian web, eksekusi kode, dan MCP. Upaya penalaran dapat disesuaikan agar sesuai dengan target latensi Anda.
Input apa saja yang diterima gpt-oss-120b?
Tidak ada gambar atau audio: baik input maupun output berupa teks. Gunakan gpt-oss-120b untuk penalaran teks dan langkah-langkah berbasis alat, dan pilih model multimodal untuk materi visual.
Berapa biaya gpt-oss-120b?
Di TokenLab, gpt-oss-120b dikenakan Masukan $0.15 / Keluaran $0.60 per 1M token. Tabel harga di atas menampilkan rincian lengkap. Tarif bergantung pada unit penagihan, spesifikasi, dan penggunaan. Bandingkan kondisi yang sama dalam harga detail model; satu tarif tidak menentukan total biaya.
Berapa batas konteks dan output gpt-oss-120b?
gpt-oss-120b mendukung hingga 131.072 token konteks dan menghasilkan hingga 65.536 token per respons.
Endpoint mana yang harus digunakan gpt-oss-120b?
Pakai https://api.tokenlab.sh/v1/responses sebagai default untuk gpt-oss-120b. Jika format native penyedia didukung, API workbench juga menampilkan endpoint tersebut.
Operasi apa saja yang didukung gpt-oss-120b?
gpt-oss-120b mendukung Teks ke teks. Pilih operasi di API workbench di atas untuk melihat endpoint dan contoh kode terkait.
Bandingkan gpt-oss-120b
Sumber
Ditinjau 2 Okt 2026