OpenAI Web Searchのreturn_token_budget、調査品質とコストをどう制御するか

OpenAIはResponses APIのWeb Searchツールにreturn_token_budgetを追加した。標準動作のdefaultに加え、unlimitedを指定すると、GPT-5以降の推論を伴うWeb検索で、検索結果としてモデルへ返されるトークンの既定上限を解除できる。

これは「検索回数を増やす設定」ではなく、検索で集めた情報をモデルへ戻す際の情報量を拡張する設定である。長い調査ほど自動的に正確になるわけではなく、費用、レイテンシー、出典の重複、古い情報の混入も同時に増え得る。

何が変わったか

Web Searchツール定義でreturn_token_budgetを指定できるようになった。defaultは省略時と同じ標準予算、unlimitedは既定の返却トークン予算を外す。公式ガイドは、unlimitedを選択的に使うこと、長時間の複数検索ではbackground: trueを使うことを案内している。

変更前後の差

誰に影響するか

影響が大きいのは、複数国の規制調査、製品比較、長期間の市場分析、一次情報を多数照合するエージェントである。単純な天気、営業時間、単一ページ確認のような検索では、上限解除の便益は小さい。

期限

強制移行期限はない。既存リクエストはdefault相当で動作するため、全経路を変更する必要はない。

必要な対応

検索要求を「通常確認」と「深度調査」に分類し、後者だけunlimitedへ流す。1リクエスト当たりの最大実行時間、最大費用、最大再試行数、許容する出典数をアプリ側で決める。回答の長さではなく、根拠の網羅性と結論の改善を評価する。

実装・移行手順

1. 現行検索の質問、費用、処理時間、引用数を基準値として保存する。
2. Feature Flagでreturn_token_budgetを切り替えられるようにする。
3. 高負荷経路ではbackground: trueを使い、状態取得とキャンセルを実装する。
4. defaultとunlimitedを同一評価セットで比較する。
5. 追加情報が結論を変えない質問はdefaultへ戻す。
6. 予算超過、タイムアウト、出典不足時のフォールバックを用意する。

{
  "model": "gpt-5.6",
  "background": true,
  "tools": [{
    "type": "web_search",
    "return_token_budget": "unlimited"
  }]
}

失敗しやすい点

unlimitedを全検索へ一律適用すること、生成トークンと検索返却トークンを同じ指標として扱うこと、処理が長いのに同期HTTP接続を維持すること、引用数だけで品質を判定することが典型的な失敗である。

リスク

費用増加、P95レイテンシー悪化、検索結果の冗長化、古い情報の混入、相互矛盾する出典の増加がある。長時間処理が再試行されると、同じ調査へ二重課金する運用事故も起こり得る。

評価方法

• 質問当たり費用とP50・P95処理時間
• 一次情報を含む回答率
• 必須論点の網羅率
• 引用が主張を支持する率
• defaultから結論が改善した割合
• タイムアウト、キャンセル、重複実行件数
• 人手レビューでの重大な見落とし件数

ロールバック

Feature Flagをdefaultへ戻し、新規のunlimited実行を停止する。進行中の背景処理は状態を確認してキャンセルし、必要な調査だけ標準設定で再実行する。評価ログは削除せず、どの質問で費用対効果が悪化したかを記録する。

編集部分析

上限解除は「より多く検索すれば正解になる」という機能ではない。価値が出るのは、調査対象が広く、複数の一次情報を比較する必要があり、追加コンテキストが意思決定へ直接寄与する場合である。運用上はモデル設定ではなく、調査ジョブのサービスレベルと費用制御として扱うべきだ。

実務チェックリスト

• [ ] 通常検索と深度調査の判定条件を定義した
• [ ] defaultとunlimitedを切り替えるFeature Flagがある
• [ ] background実行の状態取得とキャンセルを実装した
• [ ] 質問単位の費用とレイテンシーを記録している
• [ ] 引用の支持関係を評価している
• [ ] タイムアウト時の再試行重複を防いだ
• [ ] 標準設定へ即時に戻せる

一次情報

• OpenAI Web search guide
• OpenAI API changelog