AIF-C01#25(responsible-ai)
AIプラクティショナーが、さまざまな職業に就く人々の画像を生成するモデルを構築しています。このプラクティショナーは、入力データにバイアスが存在し、特定の属性が画像生成に影響を与え、モデルにバイアスを生み出していることを発見しました。 この問題を解決する技術はどれですか？
正解：A
正解の根拠
入力データに特定属性の偏り (クラス不均衡) が存在し、画像生成モデルにバイアスが生じている場合、データ拡張 (Data Augmentation) で少数クラスのサンプルを増やすことが有効です。回転・反転・色変換やオーバーサンプリングで多様性を補い、機微属性間の代表性バランスを是正することにより、生成画像の偏りを根本から軽減できます。
バイアス対策手法の特徴
| 手法 | 役割 |
|---|---|
| データ拡張 | 少数クラスサンプル増強 |
| クラス分布監視 | 運用時のドリフト検知 |
| RAG | 外部知識を参照する生成 |
| ウォーターマーク検出 | 生成画像の出所識別 |
不正解の理由
- B: クラス分布のモニタリングは検知手段にとどまり、根本的なバイアス低減を行うデータレベルの是正策ではありません。
- C: 検索拡張生成 (RAG) は外部知識を参照する生成手法で、画像生成モデルのクラス不均衡を直接是正する手段ではありません。
- D: ウォーターマーク検出は生成コンテンツの出所追跡技術で、訓練データの偏りを修正する目的とは異なります。
コメント