新規API変更
Anthropic
Claude thinking.display omitted、推論品質を保ってストリーミングを軽量化する
Anthropicはextended thinkingのdisplay設定を追加し、omittedではthinking本文を返さずsignatureを保持できる。最初の回答表示を速められるが、推論トークンの課金は変わらず、複数ターンでは空のthinking blockを改変せず再送する必要がある。
- 影響
- Claude APIのextended thinkingをチャット、エージェント、ストリーミングUI、複数ターン処理で利用する開発・運用担当者
- 対応
- 表示要件に応じてdisplayを明示し、thinking blockの署名を改変せず保持し、レイテンシーと費用を別々に評価する
- 期限
- 期限なし