AIF-C01#113(fundamentals-ai-ml)
ある企業は、予測を毎四半期作成し、予測される需要を満たすための運用を最適化する方法を決定しています。同社はこれらの予測を作成するために機械学習（ML）モデルを使用しています。
AIプラクティショナーは、トレーニング済みMLモデルに関するレポートを作成し、企業の関係者に透明性と説明可能性を提供しようとしています。
モデルの透明性を高め、予測がどのように行われているかを関係者が理解しやすくするために、AIプラクティショナーは何をレポートに含めるべきですか？
正解：B
正解の根拠
部分依存プロット (Partial Dependence Plots, PDPs) は、ある特徴量を変化させたときにモデル予測がどう変わるかを平均化して可視化する説明可能性ツールです。関係者がモデル内部を理解しなくても、入力と予測の関係を直感的に把握できるため、モデルの透明性と説明可能性向上に有効です。SageMaker Clarify は PDP を含む説明可能性レポートを自動生成でき、AWS 上での標準的な実装方法となっています。
説明可能性手段の比較
| 手段 | 用途 |
|---|---|
| PDP | 特徴量と予測の関係可視化 |
| SHAP | 個別予測の特徴量寄与 |
| Model Card | モデルメタデータ開示 |
| 収束テーブル | 訓練ログの内部情報 |
不正解の理由
- A: モデルトレーニングコードは実装詳細であり、技術者でない関係者にはモデルの予測ロジックを直感的に伝えられません。
- C: 訓練用サンプルデータは元データであり、それ自体ではモデルがどう判断しているかという内部挙動は説明できません。
- D: モデル収束テーブルは訓練ログ的な情報で、ビジネス関係者向けに予測根拠を説明する用途には適合しません。
コメント