コーディングツール
コーディングエージェントのコスト管理
実際の利用データを使用して、タスクの品質を落とさずにコストを削減する
コーディングエージェントは、指示、会話履歴、コード、ツール実行結果を繰り返し送信します。そのため、長時間のセッションは単発のチャットリクエストよりもはるかに高額になる可能性があります。コストを最適化するための有効な手段は、モデルの選択、コンテキストサイズ、出力長、および選択したモデルがサポートしている場合のキャッシュの活用です。
自身の利用状況から始める
APIキーを所有するワークスペースで Usage を開き、モデル別またはキー別にリクエストを比較してください。一般的な時間単位の推定に頼るのではなく、類似したタスクを比較します。
少なくとも以下を記録してください:
- 入力、出力、およびキャッシュされたトークン数
- タスク完了あたりのコスト
- 失敗したリクエストや繰り返されたリクエスト
- 使用したモデルとAPIキー
タスクに最適なモデルを選択する
最も高価なモデルがすべてのステップを処理する必要はありません。
| タスク | 最適化のポイント |
|---|---|
| アーキテクチャ設計や困難なデバッグ | 推論品質と十分なコンテキスト |
| 集中した編集やルーチンレビュー | 低価格で信頼性の高い指示追従 |
| 検索、分類、ボイラープレート作成 | 速度と低い入力コスト |
| 最終レビュー | 厳選された小さなコンテキストでの品質 |
現在の価格と機能については Models page を参照してください。本番環境のツールを変更する前に、同じ代表的なタスクで候補モデルをテストしてください。
コンテキストを意図的に管理する
- デフォルトでリポジトリ全体を含めるのではなく、現在のタスクに必要なファイルとログのみを含めます。
- 古い履歴が役に立たなくなったら、新しい会話を開始します。
- すべてのプロンプトに大きなディレクトリを貼り付けるのではなく、エージェントにコードを検索させます。
- 再利用可能な指示は短く保ち、重複するルールは削除します。
不要な出力を制限する
タスクの回答長が予測可能な場合は、選択した API format でサポートされている出力制限を設定します。Chat CompletionsとMessagesではリクエストの形式が異なるため、エンドポイントのドキュメントに記載されているフィールドを使用してください。
制限を設定することで意図しない長い回答を防ぐことができますが、タスクを完了させるのに十分な余裕を持たせる必要があります。
キャッシュはドキュメント化されている場合のみ使用する
一部のモデルでは、キャッシュされた入力に対して割引が適用されます。キャッシュ割引を当てにする前にモデルの価格詳細を確認し、レスポンスまたはUsageでキャッシュされたトークンの使用量を確認してください。キャッシュの動作と価格はモデルによって異なります。
プロジェクトごとにAPIキーを分ける
制限や利用履歴を個別に管理する必要がある場合は、プロジェクトやコーディングツールごとに異なるAPIキーを使用してください。キー単位の制限を設定することで、1つのツールがアカウント残高をすべて消費するのを防ぐことができます。
実際のタスクで変更を比較する
- 通常の作業を代表する小さなタスクセットを選択します。
- 各候補モデルで同じタスクを、同じコンテキストを使用して実行します。
- Usageで完了品質、再試行回数、合計トークン数、最終コストを比較します。
トークンあたりの単価が最も安いことが、必ずしもタスク完了あたりのコストが最も安いとは限りません。再試行が必要な安価なリクエストは、結果としてコストが高くなる可能性があります。