新規セキュリティ
OpenAI
OpenAI Safety Usage DashboardとInline Moderationを運用へ組み込む、遮断・誤検知・監査設計
OpenAIはsafety_identifierに基づく遮断状況を確認できるSafety Usage Dashboardと、Responses API・Chat Completions APIで入力・出力のModerationスコアを返すInline Moderationを追加した。可視化と判定材料は増えたが、スコアは自社ポリシーへ変換し、モデル出力を利用者へ表示する前に検査し、誤検知・回避・個人識別子のハッシュ化・異議申立てを設計する必要がある。
- 影響
- ユーザー生成入力、公開出力、子ども向け機能、高リスク業務、UGC、エージェントをOpenAI APIで提供するプロダクト・Trust & Safety・セキュリティ部門
- 対応
- 安定した匿名safety_identifierを付与し、入力・出力スコアを自社ポリシーへマッピングし、表示前遮断、レビュー、誤検知、監査、Dashboard監視を実装する
- 期限
- 期限なし