新規API仕様変更
AWS
Amazon Bedrock Batch InferenceがConverse形式対応、モデル別JSONLを共通化する実務
Amazon BedrockのBatch InferenceでConverse API形式の入力を選べるようになった。CreateModelInvocationJobのmodelInvocationTypeをConverseにすると、モデル固有のInvokeModel形式ではなく共通メッセージ形式を利用できる。移行ではJSONL生成、対応モデル、ツール・画像、S3、IAM、出力解析、再実行を検証する必要がある。
- 影響
- Amazon Bedrockで大量要約、分類、抽出、評価、オフライン生成を実行するデータ基盤、MLOps、AI開発部門
- 対応
- 既存InvokeModel JSONLをConverse形式へ変換する共通層を作り、対応モデルと出力差を検証して段階移行する
- 期限
- 期限なし