Alat coding

Visual Studio Code

Gunakan model TokenLab di chat VS Code dengan penyedia Custom Endpoint

Ikhtisar

Chat VS Code dapat memakai penyedia model Anda sendiri melalui Custom Endpoint (bawa kunci sendiri, BYOK). Halaman ini menghubungkan TokenLab melalui API Chat Completions.

  • Chat tidak memerlukan paket Copilot. Model BYOK di VS Code berfungsi tanpa masuk ke GitHub.
  • Beberapa fitur tetap memerlukan GitHub: saran inline (pelengkapan kode), pencarian semantik, dan fitur lain berbasis embedding tidak dilayani oleh model BYOK. Kunci TokenLab tidak menggantikannya.
  • Pengguna Copilot Business atau Enterprise: administrator Anda harus mengizinkan kebijakan Bring Your Own Language Model Key in VS Code.

Persyaratan

  • VS Code versi stabil terbaru dengan tampilan Chat.
  • Kunci API TokenLab (dapatkan).
  • Model yang menerima openai_chat_completions dan mendukung pemanggilan tool (mode agen hanya menampilkan model yang bisa memanggil tool). Halaman model menunjukkan keduanya: Chat Completions API di bagian format API dan Tool use di bagian kemampuan, misalnya GPT-5.6 Luna.

Menambahkan TokenLab

  1. Buka pemilih model di tampilan Chat dan pilih Manage Language Models (ikon roda gigi), atau jalankan Chat: Manage Language Models dari Command Palette.
  2. Pilih Add Models → Custom Endpoint.
  3. VS Code meminta Group Name. Kolomnya sudah terisi Custom Endpoint; ganti dengan TokenLab lalu tekan Enter.
  4. Kotak isian berjudul TokenLab: API Key langsung terbuka. Tempelkan kunci API TokenLab Anda lalu tekan Enter. VS Code menyimpan kunci di penyimpanan rahasianya (secret storage).
  5. Jika VS Code menanyakan jenis API, pilih Chat Completions. Langkah ini mungkin tidak muncul; apiType di file di bawah tetap mengaturnya.
  6. VS Code membuka chatLanguageModels.json. Pertahankan baris apiKey yang dibuat wizard (baris ini menunjuk ke kunci di penyimpanan rahasia), pastikan apiType bernilai chat-completions, lalu ubah daftar models agar sesuai dengan entri di bawah, kemudian simpan.

Masukkan kunci di wizard. Kunci yang diketik langsung di chatLanguageModels.json tidak dikirim, dan permintaan gagal karena header Authorization tidak ada.

[
  {
    "name": "TokenLab",
    "vendor": "customendpoint",
    "apiKey": "${input:tokenlabApiKey}",
    "apiType": "chat-completions",
    "models": [
      {
        "id": "gpt-5.6-luna",
        "name": "GPT-5.6 Luna (TokenLab)",
        "url": "https://api.tokenlab.sh/v1/chat/completions",
        "toolCalling": true,
        "vision": true,
        "maxInputTokens": 200000,
        "maxOutputTokens": 32000
      },
      {
        "id": "claude-sonnet-5-5",
        "name": "Claude Sonnet 5.5 (TokenLab)",
        "url": "https://api.tokenlab.sh/v1/chat/completions",
        "toolCalling": true,
        "vision": true,
        "maxInputTokens": 200000,
        "maxOutputTokens": 32000
      },
      {
        "id": "gpt-6.1-sol",
        "name": "GPT-6.1 Sol (TokenLab)",
        "url": "https://api.tokenlab.sh/v1/chat/completions",
        "toolCalling": true,
        "vision": false,
        "maxInputTokens": 200000,
        "maxOutputTokens": 32000
      }
    ]
  }
]

Catatan:

  • Tulis URL lengkap termasuk /chat/completions. VS Code memakai URL dengan jalur API eksplisit apa adanya.
  • Dengan jenis Chat Completions, VS Code mengirim Authorization: Bearer <key>, sesuai yang diharapkan TokenLab. Jangan menambahkan header autentikasi kustom.
  • id adalah ID model TokenLab yang dikirim dalam permintaan. Gunakan model aktif mana pun yang accepted_request_formats-nya mencakup openai_chat_completions.
  • Batas token: VS Code menganggap maxInputTokens + maxOutputTokens sebagai jendela konteks. Nilai di atas sengaja konservatif; Anda dapat menaikkannya hingga batas yang tercantum di halaman model. Konteks yang lebih besar lebih mahal per permintaan.
  • Jika model tidak muncul di pemilih, mulai ulang VS Code.

Tanpa masuk ke GitHub

Pembuatan judul, pesan commit, dan tugas "utility" latar belakang lainnya secara default memakai model GitHub Copilot. Tanpa masuk ke Copilot, atur chat.utilityModel dan chat.utilitySmallModel ke model TokenLab (yang cepat dan murah untuk model kecil), atau atur chat.byokUtilityModelDefault ke Main Agent Model. Panggilan latar belakang ini ditagihkan ke saldo TokenLab Anda.

Verifikasi

  1. Pilih GPT-5.6 Luna (TokenLab) di pemilih model (model berbiaya rendah, cocok untuk uji pertama).
  2. Ajukan pertanyaan baca-saja terlebih dahulu, misalnya: Summarize the top-level structure of this workspace. Do not modify files.
  3. Periksa balasan dan catatan permintaan yang sesuai sebelum menjalankan tugas agen.

Menyimpan konfigurasi atau menampilkan daftar model tidak membuktikan bahwa kunci berfungsi. Setiap prompt memakai saldo TokenLab.

Pemecahan masalah

  • Header Authorization tidak ada: kunci tidak ada di penyimpanan rahasia. Jalankan lagi Add Models → Custom Endpoint dan masukkan kunci di wizard, bukan di file JSON.
  • 401 / autentikasi gagal: masukkan ulang kunci dari Manage Language Models → ikon roda gigi di samping grup TokenLab.
  • Model tidak ditemukan: id harus berupa ID model TokenLab yang persis; periksa halaman model.
  • Model tidak muncul di mode agen: atur "toolCalling": true dan gunakan model yang mendukung tool.
  • Jenis API Messages atau Responses: belum dibahas di halaman ini; gunakan Chat Completions.

Jangan commit kunci API ke chatLanguageModels.json atau file apa pun yang dilacak Git; tetap gunakan ${input:...} di file.

Di halaman ini