AIF-C01#22(fundamentals-generative-ai)
ある会計事務所が、ドキュメント処理を自動化するために大規模言語モデル（LLM）を導入したいと考えています。同事務所は、潜在的なリスクを回避しながら責任を持って進める必要があります。 LLMの開発とデプロイメントにおいて、どのような対応を行うべきですか？（2つ選択してください）
（2つ選択）
正解：A, C
正解の根拠
会計事務所が責任ある AI で LLM を運用するには、まず公平性メトリクス (Demographic Parity 等) でモデル出力に偏りがないかを定量評価することが必須です。さらに学習データそのもののバイアスを除去・補正することで根本原因に対処できます。SageMaker Clarify や Bedrock のモデル評価機能により、これらのプロセスを支援できます。
責任ある AI の主要対策
| 対策 | 役割 |
|---|---|
| 公平性指標で評価 | バイアス検出 |
| 訓練データ修正 | バイアス除去 |
| Clarify | 説明可能性とバイアス分析 |
| Guardrails | 有害コンテンツの遮断 |
不正解の理由
- B: Temperature 調整は出力多様性を制御するパラメータで、責任ある AI のリスク低減策としては本質的ではありません。
- D: 過学習回避は汎化性能の問題で、責任ある AI の柱である公平性・透明性・バイアス削減とは焦点が異なります。
- E: プロンプトエンジニアリングは性能改善には有効ですが、根本的なバイアス検出と是正の手段としては限定的です。
コメント