Ferramentas de código
Controle os custos de agentes de codificação
Use dados de uso reais para gastar menos sem enfraquecer cada tarefa
Agentes de codificação enviam repetidamente instruções, histórico de conversas, código e resultados de ferramentas. Sessões longas podem, portanto, custar muito mais do que uma única solicitação de chat. As alavancas úteis são a escolha do modelo, o tamanho do contexto, o comprimento da saída e o cache, quando o modelo selecionado o suporta.
Comece com seu próprio uso
Abra Uso no workspace que possui sua chave de API e compare as solicitações por modelo ou chave. Compare tarefas semelhantes em vez de confiar em uma estimativa horária genérica.
Registre pelo menos:
- tokens de entrada, saída e em cache
- custo por tarefa concluída
- solicitações falhas ou repetidas
- o modelo e a chave de API utilizados
Combine o modelo com o trabalho
O modelo mais caro não precisa lidar com todas as etapas.
| Trabalho | O que otimizar |
|---|---|
| Arquitetura ou depuração difícil | Qualidade de raciocínio e contexto suficiente |
| Edições focadas e revisão de rotina | Seguimento confiável de instruções a um preço menor |
| Busca, classificação e boilerplate | Velocidade e baixo custo de entrada |
| Revisão final | Qualidade em um contexto menor e cuidadosamente selecionado |
Use a página de Modelos para preços e capacidades atuais. Teste modelos candidatos na mesma tarefa representativa antes de alterar uma ferramenta de produção.
Mantenha o contexto intencional
- Inclua os arquivos e logs necessários para a tarefa atual, não o repositório inteiro por padrão.
- Inicie uma nova conversa quando o histórico antigo não ajudar mais.
- Deixe o agente procurar pelo código em vez de colar grandes diretórios em cada prompt.
- Mantenha instruções reutilizáveis curtas e remova regras duplicadas.
Limite a saída desnecessária
Defina o limite de saída suportado pelo seu formato de API selecionado quando a tarefa tiver um comprimento de resposta previsível. Chat Completions e Messages usam formatos de solicitação diferentes de Responses; use o campo documentado do endpoint.
Um limite evita respostas longas acidentais, mas ainda deve deixar espaço suficiente para que a tarefa seja concluída.
Use cache apenas quando estiver documentado
Alguns modelos cobram menos por entrada em cache. Verifique os detalhes de preço do modelo antes de contar com um desconto de cache e confirme o uso de tokens em cache na resposta ou em Uso. O comportamento e os preços do cache diferem por modelo.
Separe projetos com chaves de API
Use uma chave de API diferente para cada projeto ou ferramenta de codificação quando precisar de limites e histórico de uso separados. Um limite por chave pode impedir que uma ferramenta consuma todo o saldo da conta.
Compare mudanças com tarefas reais
- Escolha um pequeno conjunto de tarefas que represente seu trabalho normal.
- Execute as mesmas tarefas com cada modelo candidato e o mesmo contexto.
- Compare a qualidade da conclusão, novas tentativas, total de tokens e custo final em Uso.
O menor preço por token nem sempre é o menor custo por tarefa concluída. Uma solicitação mais barata que precisa de várias novas tentativas pode custar mais.