AI のコードレビューの費用を 68% 下げた：Cloudflare の地道な最適化

Cloudflare は 10 月 19 日、社内のマージリクエストを見る AI のコードレビューの費用を、1 回あたり平均 2.43 ドルから 0.77 ドルへ、68% 下げた記録を公開しました。レビューの時間の中央値も、4 分 9 秒から 1 分 32 秒に縮んでいます。

レビューの作り

• まとめ役と、専門の役（コードの品質、セキュリティ、性能、AGENTS.md に沿っているか、ドキュメント）、社内の決まりを見る役に分ける。
• 変更の大きさで、ごく小さい・軽い・全部の 3 段に分ける。
• 動かす土台は OpenCode の v2。並べて試した影のテストで、v1 と承認の判断が 98% 一致した。

費用は、4 月の 1.19 ドルから 8 月の終わりの約 2.46 ドルまで、倍に膨らんでいました。

やったこと

1. キャッシュの共有（9 月 16 日）：リポジトリをまたいで同じ前置きを使い回し、最初のリクエストでキャッシュから読める割合が 14〜26% から 91〜99.5% に。Cloudflare は「いちばん大きな節約は、各セッションの最初のリクエストで、実際に何がモデルの会社に届いていたかを確かめたことから来た」と書いています。
2. 社内の決まりを見る役：決まりの索引をプロンプトに入れ、1 回の実行の LLM の呼び出しを 15.9 回から 9.6 回へ、費用を 1.12 ドルから 0.72 ドルへ。
3. 片付け：使えない道具の説明を外す（1 リクエストあたり約 2,900 トークン）、ファイルを並べて読む、再レビューで要らない役を飛ばす、コメントを書いたら止める（1 回あたり約 0.07 ドル）、時間の上限を分ける。
4. 止める確認：15 秒ごとに止める指示を確かめる。止めたはずの 446 の仕事のうち、358 が動き続けていた。
5. モデルと深さ：まとめ役は Opus 5.5 の medium。Sonnet 5.5 は Sonnet 5 より、品質・性能・セキュリティのレビューで 62%・58%・47% 安い。コードの品質のレビューの呼び出しは 6.2 回から 1.7 回に減った。

下がった 1.67 ドルのうち、1.06 ドルはモデルと深さの選び方、0.65 ドルはコードの手直しによるものでした。

品質は、測って決める

安くすれば品質が落ちる、とは限りません。でも、落ちないとも限りません。性能のレビューは、深さを medium にすると重要な指摘の約 64% を失い、セキュリティは約 4 分の 1 を失いました（こちらは統計的に意味のある差ではない）。逆に、コードの品質のレビューを high にすると、費用は 61% 増えましたが、重大と警告の指摘が 58% 増えました。

Cloudflare は「安いレビューが自動的に悪いわけではないが、自動的に大丈夫なわけでもない（Lower cost reviews didn’t automatically mean worse quality, but it didn’t automatically mean fine either.）」とまとめています。

作り手にとっての意味

費用の削り方には順番があります。まず、何が実際に送られているかを見る。次に、要らない物を送らない。最後に、モデルと深さを、分野ごとに測って選ぶ。

モデルの値段の表を眺めるより、自分のリクエストの中身を眺めるほうが、ずっと効きます。AI のレビューを群れで回すほど、この差は大きくなります。