Herramientas de código
Controlar los costos de los agentes de codificación
Utilice datos de uso reales para gastar menos sin debilitar cada tarea
Los agentes de codificación envían repetidamente instrucciones, historial de conversaciones, código y resultados de herramientas. Por lo tanto, las sesiones largas pueden costar mucho más que una solicitud de chat única. Las palancas útiles son la elección del modelo, el tamaño del contexto, la longitud de salida y el almacenamiento en caché cuando el modelo seleccionado lo admite.
Comience con su propio uso
Abra Uso en el espacio de trabajo que posee su API key y compare las solicitudes por modelo o clave. Compare tareas similares en lugar de depender de una estimación horaria genérica.
Registre al menos:
- tokens de entrada, salida y almacenados en caché
- costo por tarea completada
- solicitudes fallidas o repetidas
- el modelo y la API key utilizados
Ajuste el modelo al trabajo
El modelo más caro no necesita manejar cada paso.
| Trabajo | Qué optimizar |
|---|---|
| Arquitectura o depuración difícil | Calidad de razonamiento y suficiente contexto |
| Ediciones enfocadas y revisión rutinaria | Seguimiento de instrucciones confiable a un precio menor |
| Búsqueda, clasificación y código repetitivo | Velocidad y bajo costo de entrada |
| Revisión final | Calidad en un contexto más pequeño y cuidadosamente seleccionado |
Utilice la página de Modelos para conocer los precios y capacidades actuales. Pruebe los modelos candidatos en la misma tarea representativa antes de cambiar una herramienta de producción.
Mantenga el contexto intencional
- Incluya los archivos y registros necesarios para la tarea actual, no todo el repositorio de forma predeterminada.
- Inicie una nueva conversación cuando el historial antiguo ya no sea útil.
- Deje que el agente busque código en lugar de pegar directorios grandes en cada prompt.
- Mantenga las instrucciones reutilizables breves y elimine las reglas duplicadas.
Limite la salida innecesaria
Establezca el límite de salida admitido por su formato de API seleccionado cuando la tarea tenga una longitud de respuesta predecible. Chat Completions y Messages utilizan formas de solicitud diferentes a las de Responses; utilice el campo documentado del endpoint.
Un límite evita respuestas largas accidentales, pero debe dejar suficiente espacio para que la tarea finalice.
Utilice el almacenamiento en caché solo cuando esté documentado
Algunos modelos cobran menos por la entrada almacenada en caché. Verifique los detalles de precios del modelo antes de contar con un descuento por caché y confirme el uso de tokens almacenados en caché en la respuesta o en Uso. El comportamiento y los precios del caché difieren según el modelo.
Separe proyectos con API keys
Utilice una API key diferente para cada proyecto o herramienta de codificación cuando necesite límites e historial de uso separados. Un límite a nivel de clave puede evitar que una herramienta consuma el saldo total de la cuenta.
Compare cambios con tareas reales
- Elija un pequeño conjunto de tareas que represente su trabajo normal.
- Ejecute las mismas tareas con cada modelo candidato y el mismo contexto.
- Compare la calidad de finalización, los reintentos, el total de tokens y el costo final en Uso.
El precio más bajo por token no siempre es el costo más bajo por tarea completada. Una solicitud más barata que necesita varios reintentos puede costar más.