新規機能
OpenAI
OpenAIのPrompt Cacheが非ZDR組織で24時間保持へ、既定値変更のコスト・データ統制
OpenAIは非Zero Data Retention組織のPrompt Cache保持既定値を、従来のin-memoryから24時間へ変更した。長い共通プロンプトのキャッシュヒット機会は増えるが、明示設定のないアプリではデータ保持前提が変わる。組織は対象モデル、ZDR適用、入力分類、キャッシュキー、コスト効果、削除・例外手順を確認する必要がある。
- 影響
- 長いSystem Prompt、ツール定義、コンテキストを繰り返し送信するOpenAI API利用者、データ保持要件を管理する法務・セキュリティ・FinOps部門
- 対応
- 対象Projectとモデルを棚卸しし、機密度別にprompt_cache_retentionを明示設定し、ヒット率・費用・保持要件を検証する
- 期限
- 期限なし