AIF-C01#8(foundation-models)
基盤モデル（FM）をファインチューニングする際に、継続的な事前トレーニングの利点はどれですか？
正解：B
正解の根拠
継続的事前トレーニング (Continued Pre-training) は、既存の基盤モデルにラベルなしのドメインデータを追加学習させ、新しい知識やドメイン適応を獲得させる手法です。最新情報の取り込みや専門領域への適応により、時間経過に伴うモデル性能の向上 (陳腐化防止/精度改善) が実現します。Bedrock のカスタムモデルでも提供されています。
主要モデル更新手法
| 手法 | 効果 |
|---|---|
| Continued Pre-training | 知識更新と性能向上 |
| Fine-tuning (教師あり) | タスク特化 |
| RAG | 外部知識参照 |
| 蒸留 | モデル軽量化 |
不正解の理由
- A: 継続的事前トレーニングは追加学習を伴うため、トレーニング時間はむしろ増加する方向で、削減効果を主目的とする手法ではありません。
- C: 推論時間の最適化はモデル蒸留や量子化、コンパイルが担う領域で、追加学習を行う事前トレーニングの目的ではありません。
- D: モデル複雑度の低減は蒸留やプルーニングなど別手法の役割で、知識更新を行う継続的事前トレーニングの効果ではありません。
コメント