AIF-C01#10(fundamentals-ai-ml)
ある企業が、生成AIアプリケーションのバイアスとトキシシティをポストプロセス段階で低減したいと考えています。 この要件を満たすために使用できる技術はどれですか？
正解：A
正解の根拠
ヒューマンインザループ (HITL) は、生成 AI の出力をポストプロセス段階で人間がレビュー・修正・承認する仕組みです。Amazon Augmented AI (A2I) や SageMaker Ground Truth Plus を活用すれば、バイアスやトキシシティを含む応答を人手で検出し再学習データへフィードバックすることもでき、出力品質と安全性を継続的に改善できます。
バイアス低減手法の段階別整理
| 段階 | 手法例 |
|---|---|
| 前処理 | データ拡張/再サンプリング |
| 学習中 | 敵対的訓練/制約付学習 |
| 後処理 | HITL/ガードレール |
| 監査 | SageMaker Clarify |
不正解の理由
- B: データ拡張は訓練前に多様なサンプルを増やす前処理手法で、ポストプロセス段階の対策ではありません。
- C: 特徴量エンジニアリングは入力特徴の設計段階で行う前処理で、生成出力に対するポスト処理とは別ステップです。
- D: 敵対的トレーニングは学習中にロバスト性を高める手法で、後段で出力を評価・修正する仕組みではありません。
コメント