Hướng dẫn, mô hình và cập nhật sản phẩm

Một system prompt 20.000 token có chi phí ước tính là 18,18 USD cho mỗi 1.000 yêu cầu không được lưu bộ nhớ đệm (uncached) trên claude-sonnet-5 và khoảng 2,00 USD khi có cache hits, dựa trên mức giá của TokenLab được ghi nhận vào ngày 03/10/2026.

So sánh kỹ thuật giữa OpenRouter và TokenLab, phân tích quá trình chuẩn hóa theo một lược đồ duy nhất (single-schema) so với định tuyến cổng gốc đa định dạng (multi-format native gateway) qua các endpoint của OpenAI, Anthropic và Gemini.

Việc chuyển đổi từ OpenAI sang TokenLab bắt đầu bằng việc thay đổi `base_url` và `api_key`, sau đó kiểm tra các model ID, streaming, tool calls, cấu trúc lỗi, thời gian chờ (timeout) và thanh toán dựa trên tài liệu đã được cập nhật.

Một coding agent không nên bị lỗi chỉ vì tên model thay đổi. Dưới đây là cách một MCP model catalog biến việc lựa chọn model thành một quy trình tra cứu runtime, cùng với các ví dụ về request, quy tắc định tuyến và thói quen xác thực.

Một mẫu streaming bốn mô hình đã cũ từ TokenLab cho thấy lý do tại sao thời gian hiển thị token đầu tiên (first visible token), tổng thời gian và số lượng token mỗi giây (tokens per second) phải được đo lường riêng biệt, cùng với một bộ công cụ (harness), các tiêu đề (headers) để ghi nhật ký và tính toán giới hạn tốc độ (rate-limit).

Việc gặp lỗi 404 do chuỗi định danh model bị thay đổi là một khởi đầu tồi tệ cho một vòng lặp agent. Dưới đây là cách ghim `gemini-3.5-flash`, đọc bảng giá của Google Cloud và xây dựng một vòng lặp có khả năng chống chịu với các đợt ngừng hỗ trợ (deprecations).