新規モデル更新
AWS
Amazon BedrockのOpenAI互換RFT、報酬関数とIAMを本番前に検証する
Amazon BedrockはOpenAI互換APIでopen-weightモデルのreinforcement fine-tuningを作成・監視・推論できるようにした。OpenAI SDKを流用できる一方、学習データ、Lambda報酬関数、IAM、APIキー、評価の責任は残るため、reward hackingと権限過剰を防ぐ設計が必要になる。
- 影響
- Amazon Bedrockでopen-weightモデルを業務特化し、OpenAI SDK、Lambda grader、独自評価データを利用するML・AI・セキュリティ担当者
- 対応
- 学習データを分離し、報酬関数を攻撃耐性まで評価し、Mantle権限とLambda実行権限を最小化して段階公開する
- 期限
- 期限なし