Memilih Tier Pengiriman TokenLab: Auto, Verified, atau Official

Sebuah permintaan dapat gagal dengan kode 503 meskipun ID model sudah benar, dan penyebabnya sering kali adalah tingkat pengiriman (delivery tier) yang Anda tetapkan. Dalam pipeline kami, kami mengalami hal ini ketika kami memaksakan satu opsi pada model yang tidak menawarkannya. Panduan ini menjelaskan tiga opsi tingkat pengiriman, urutan penerapan pengaturan, dan apa artinya bagi tagihan Anda. Semua fakta di bawah ini berasal dari dokumentasi TokenLab dan API model langsung, yang diamati pada 2026-10-03.

Poin Penting

• Tingkat pengiriman memiliki tiga nilai: auto, verified, dan official.
• Header permintaan akan menimpa pengaturan API key, yang akan menimpa default Workspace.
• Jika opsi yang diminta tidak tersedia, Anda akan mendapatkan 503 delivery_tier_unavailable. Jika retryable bernilai false, jangan kirim ulang permintaan yang sama.
• Anda membayar satu kali, untuk opsi yang menyelesaikan permintaan tersebut.
• Periksa GET /v1/models/{model} sebelum menetapkan tingkat pengiriman. Ini bersifat publik dan tidak memerlukan kunci.

Tiga opsi tingkat pengiriman

Referensi API (diamati 2026-10-03) mendefinisikan tiga opsi:

• Auto menggunakan TokenLab Verified jika tersedia, kemudian Official jika diperlukan. Anda membayar untuk opsi yang menyelesaikan permintaan Anda.
• TokenLab Verified adalah pengiriman yang diverifikasi oleh TokenLab. Harga TokenLab berlaku.
• Official didasarkan pada harga publik pembuat model. Harga yang ditampilkan di TokenLab adalah harga yang Anda bayar.

Permintaan pembuatan (generation requests) menerima header X-TokenLab-Delivery-Policy: auto | verified | official. Nilai header yang tidak valid akan mengembalikan 400.

Pengaturan mana yang berlaku lebih dulu

Tiga tempat dapat mengatur tingkat pengiriman. Urutan yang didokumentasikan adalah:

1. Header permintaan.
2. Pengaturan API key.
3. Default Workspace.

Header menimpa kunci, dan kunci menimpa Workspace. Sesi realtime adalah pengecualian: sesi tersebut menggunakan pengaturan API key atau Workspace dan tidak menerima penggantian melalui query-string.

Mengatur tingkat pengiriman pada permintaan

Berikut adalah panggilan Chat Completions yang menetapkan pengiriman Official. ID model claude-sonnet-5 tercantum dalam API model langsung dengan kedua opsi tersedia. Lihat halaman model.

curl https://api.tokenlab.sh/v1/chat/completions \
  -H "Authorization: Bearer $TOKENLAB_API_KEY" \
  -H "Content-Type: application/json" \
  -H "X-TokenLab-Delivery-Policy: official" \
  -d '{
    "model": "claude-sonnet-5",
    "messages": [
      {"role": "user", "content": "Hello!"}
    ]
  }'

Header yang sama berfungsi pada endpoint Anthropic Messages. Untuk /v1/messages, header kunci bisa berupa x-api-key, yang menurut referensi API diterima oleh Anthropic Messages.

curl https://api.tokenlab.sh/v1/messages \
  -H "x-api-key: $TOKENLAB_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -H "X-TokenLab-Delivery-Policy: verified" \
  -d '{
    "model": "claude-sonnet-5",
    "max_tokens": 512,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Mengatur tingkat pengiriman pada API key

Untuk menjadikan tingkat pengiriman sebagai default bagi satu kunci, gunakan Management API dengan token manajemen (mt-...). Halaman Create API Key dan Update API Key (keduanya diamati 2026-10-03) mendokumentasikan kolom deliveryPolicy. Nilainya adalah auto, verified, official, atau null. Nilai null akan mewarisi kebijakan Workspace.

Sketsa ini mengikuti bentuk PATCH yang didokumentasikan. ID kunci adalah nilai contoh dalam dokumentasi.

curl -X PATCH "https://api.tokenlab.sh/v1/management/api-keys/key_abc123def456" \
  -H "Authorization: Bearer mt-your-management-token" \
  -H "Content-Type: application/json" \
  -d '{
    "deliveryPolicy": "verified"
  }'

Pembaruan memerlukan setidaknya satu kolom, jadi body ini valid dengan sendirinya. Respons melaporkan pengaturan tersebut sebagai delivery_policy, di mana null berarti kunci tersebut mewarisi default Workspace. Endpoint pembuatan menerima kolom deliveryPolicy yang sama dalam body permintaannya. Menghilangkannya saat pembuatan konsisten dengan pewarisan null yang didokumentasikan, seperti yang ditunjukkan oleh contoh respons pembuatan delivery_policy: null.

Ketika opsi yang diminta tidak tersedia

Jika opsi yang Anda minta tidak tersedia, TokenLab mengembalikan 503 delivery_tier_unavailable dan ID permintaan. Panduan penanganan kesalahan (diamati 2026-10-03) menjelaskan cara membaca retryable.

Status 5xx tidak selalu berarti gangguan sementara. Ketika operasi yang dipilih tidak memiliki pasokan di tingkat tersebut, retryable bernilai false dan retry_after dihilangkan. Jangan ulangi permintaan yang sama tanpa perubahan. Sebaliknya:

1. Baca code dan retryable, bukan message yang dapat dibaca manusia.
2. Simpan ID Permintaan dari header respons.
3. Periksa ketersediaan pengiriman model dengan GET /v1/models sebelum memilih model atau tingkat lain.

Panduan tersebut memperingatkan bahwa nama model yang mirip tidak membuktikan ketersediaan. Klien harus melakukan percabangan berdasarkan code, dan mencoba kembali 5xx hanya jika retryable bernilai true, dengan memperhatikan retry_after dan membatasi jumlah percobaan.

Memeriksa opsi apa yang dimiliki sebuah model

Endpoint model melaporkan delivery availability by option. Nilai-nilai ini berasal dari API model langsung, diamati 2026-10-03:

ID Model	Verified	Official	Halaman Model
claude-sonnet-5	true	true	/models/claude-5/claude-sonnet-5
gpt-5.6-terra	true	true	/models/gpt-5-6/gpt-5.6-terra
deepseek-v4-flash	false	true	/models/deepseek-v4/deepseek-v4-flash

Sebagai contoh, menetapkan verified pada deepseek-v4-flash adalah jenis permintaan yang akan mendapatkan delivery_tier_unavailable, karena API melaporkan tidak ada pasokan Verified saat ini. Official dan Auto tetap valid di sana.

Periksa model apa pun sendiri:

curl "https://api.tokenlab.sh/v1/models/deepseek-v4-flash"

Ketersediaan diperiksa saat setiap permintaan dijalankan, dan panduan Penagihan menyatakan bahwa label pengiriman menjelaskan opsi yang didukung. Perlakukan API model sebagai snapshot dan baca kembali sebelum Anda melakukan hard-code pada tingkat yang ditetapkan.

Bagaimana pilihan tersebut memengaruhi biaya Anda

Panduan penagihan (diamati 2026-10-03) menyatakan bahwa setiap permintaan yang selesai dikenakan biaya satu kali, untuk opsi yang menghasilkan hasil tersebut:

• TokenLab Verified menggunakan harga publik TokenLab.
• Official menggunakan lapisan harga Official berdasarkan harga publik pembuat model.
• Auto mengenakan biaya untuk opsi mana pun yang menyelesaikan permintaan tersebut.

Untuk pembuatan berbayar, Konsol menampilkan estimasi maksimum sebelum konfirmasi, dan Penggunaan (Usage) menampilkan biaya akhir. Setiap jumlah cadangan yang tidak terpakai akan dirilis. Pada halaman Model, tanda hubung di kolom harga TokenLab berarti tidak ada penawaran Verified yang tersedia saat ini. Itu tidak berarti gratis.

Panduan tersebut tidak mendokumentasikan selisih harga tetap antara Verified dan Official, jadi kami tidak akan mengklaimnya. Untuk harga TokenLab langsung pada claude-sonnet-5, API model mencantumkan input sebesar 0,9 USD dan output sebesar 4,5 USD per 1 juta token (harga diperbarui 2026-10-02). Sebagai estimasi, 100.000 token input ditambah 10.000 token output adalah 0,09 + 0,045 = 0,135 USD. Angka tersebut hanya menggunakan harga TokenLab yang tercantum. Baca harga Official di halaman model sebelum membandingkan.

Panduan keputusan singkat

• Gunakan Auto sebagai default jika Anda ingin permintaan selesai dan dapat menerima lapisan harga mana pun.
• Tetapkan Verified jika Anda memerlukan harga TokenLab dan model melaporkan verified: true.
• Tetapkan Official jika Anda memerlukan basis harga publik pembuat model, atau ketika model tidak memiliki pasokan Verified.
• Atur default kunci untuk pekerja yang selalu membutuhkan tingkat yang sama, dan gunakan header untuk pengecualian satu kali.

Sebelum menetapkan, baca GET /v1/models/{model}. Jalankan tes kecil dan konfirmasikan biaya di Penggunaan (Usage).

Langkah selanjutnya: buat kunci dengan kebijakan pengiriman

Buat API key di Konsol, atau panggil POST /v1/management/api-keys dengan token manajemen dan atur deliveryPolicy di body, seperti yang dijelaskan di halaman Create API Key. Kemudian kirim satu permintaan kecil dengan header dari atas dan periksa biaya di Penggunaan (Usage).

FAQ

Pengaturan mana yang menang jika header, API key, dan Workspace tidak setuju?

Header permintaan yang menang. Pengaturan API key menimpa default Workspace. Sesi realtime melewati header dan menggunakan pengaturan kunci atau Workspace.

Mengapa saya mendapatkan 503 delivery_tier_unavailable, dan haruskah saya mencoba lagi?

Tingkat yang Anda minta tidak memiliki pasokan untuk operasi tersebut. Baca retryable: jika bernilai false, jangan kirim ulang permintaan yang sama. Periksa ketersediaan dengan GET /v1/models dan ubah tingkat atau modelnya.

Apakah Official lebih mahal daripada TokenLab Verified?

Dokumen tidak menyatakan perbedaan tetap. Verified menggunakan harga publik TokenLab, dan Official menggunakan basis harga publik pembuat model. Bandingkan keduanya di halaman model dan konfirmasikan biaya akhir di Penggunaan (Usage).

Bagaimana cara melihat opsi pengiriman apa yang didukung oleh sebuah model?

Panggil GET /v1/models/{model}, yang tidak memerlukan kunci. Saat ini claude-sonnet-5 dan gpt-5.6-terra melaporkan Verified dan Official, sementara deepseek-v4-flash hanya melaporkan Official.

Bisakah saya mengatur opsi pengiriman untuk sesi Realtime?

Ya, melalui pengaturan API key atau Workspace. Sesi realtime tidak menerima penggantian melalui query-string.

Buat API key TokenLab Anda di Konsol