Alat coding

Mengontrol biaya coding agent

Gunakan data penggunaan nyata untuk membelanjakan lebih sedikit tanpa melemahkan setiap tugas

Coding agent berulang kali mengirimkan instruksi, riwayat percakapan, kode, dan hasil alat. Oleh karena itu, sesi yang panjang bisa memakan biaya jauh lebih besar daripada satu permintaan chat. Pengungkit yang berguna adalah pilihan model, ukuran konteks, panjang output, dan caching jika model yang dipilih mendukungnya.

Mulai dengan penggunaan Anda sendiri

Buka Usage di workspace yang memiliki API key Anda dan bandingkan permintaan berdasarkan model atau key. Bandingkan tugas-tugas serupa alih-alih mengandalkan estimasi per jam yang umum.

Catat setidaknya:

  • token input, output, dan yang di-cache
  • biaya per tugas yang diselesaikan
  • permintaan yang gagal atau diulang
  • model dan API key yang digunakan

Sesuaikan model dengan pekerjaan

Model yang paling mahal tidak perlu menangani setiap langkah.

PekerjaanApa yang harus dioptimalkan
Arsitektur atau debugging yang sulitKualitas penalaran dan konteks yang cukup
Pengeditan terfokus dan tinjauan rutinKepatuhan instruksi yang andal dengan harga lebih rendah
Pencarian, klasifikasi, dan boilerplateKecepatan dan biaya input yang rendah
Tinjauan akhirKualitas pada konteks yang lebih kecil dan dipilih dengan cermat

Gunakan halaman Models untuk harga dan kemampuan terkini. Uji model kandidat pada tugas representatif yang sama sebelum mengubah alat produksi.

Jaga konteks agar tetap disengaja

  • Sertakan file dan log yang diperlukan untuk tugas saat ini, bukan seluruh repositori secara default.
  • Mulai percakapan baru ketika riwayat lama tidak lagi membantu.
  • Biarkan agent mencari kode alih-alih menempelkan direktori besar ke dalam setiap prompt.
  • Jaga instruksi yang dapat digunakan kembali tetap singkat dan hapus aturan yang diduplikasi.

Batasi output yang tidak perlu

Tetapkan batas output yang didukung oleh format API pilihan Anda saat tugas memiliki panjang jawaban yang dapat diprediksi. Chat Completions dan Messages menggunakan bentuk permintaan yang berbeda dari Responses; gunakan field yang didokumentasikan oleh endpoint tersebut.

Batasan mencegah respons panjang yang tidak disengaja, tetapi harus tetap menyisakan ruang yang cukup agar tugas selesai.

Gunakan caching hanya jika didokumentasikan

Beberapa model mengenakan biaya lebih rendah untuk input yang di-cache. Periksa detail harga model sebelum mengandalkan diskon cache, dan konfirmasikan penggunaan token yang di-cache dalam respons atau Usage. Perilaku dan harga cache berbeda-beda tergantung model.

Pisahkan proyek dengan API key

Gunakan API key yang berbeda untuk setiap proyek atau alat coding saat Anda memerlukan batas dan riwayat penggunaan yang terpisah. Batas tingkat key dapat mencegah satu alat menghabiskan seluruh saldo akun.

Bandingkan perubahan dengan tugas nyata

  1. Pilih sekumpulan kecil tugas yang mewakili pekerjaan normal Anda.
  2. Jalankan tugas yang sama dengan setiap model kandidat dan konteks yang sama.
  3. Bandingkan kualitas penyelesaian, percobaan ulang, total token, dan biaya akhir di Usage.

Harga per token terendah tidak selalu berarti biaya terendah per tugas yang diselesaikan. Permintaan yang lebih murah namun memerlukan beberapa kali percobaan ulang mungkin memakan biaya lebih besar.

Pengaturan alat

Di halaman ini