AIF-C01#95(fundamentals-generative-ai)

AIF-C01#95(fundamentals-generative-ai)
ある企業が、企業独自のプライベートデータに基づいて大規模言語モデル(LLM)を構築する必要があります。同社はトレーニングプロセスが環境に与える影響を懸念しています。 LLM のトレーニングにおいて、環境への影響が最も少ない Amazon EC2 インスタンスタイプはどれですか?

正解:D

正解の根拠

AWS Trainium を搭載した Trn1/Trn2 インスタンス (Trn シリーズ) は、深層学習トレーニング用に設計された専用シリコンで、同等の GPU インスタンスと比較してワットあたりの性能が高く、トレーニング 1 回あたりのエネルギー消費とカーボンフットプリントを大幅に削減できます。LLM のような大規模分散トレーニングでは Trn シリーズが環境負荷を最も抑える選択肢となります。

主要 EC2 インスタンスタイプ比較

シリーズ用途
Trn (Trainium)ML 訓練特化、高い電力効率
P (GPU)汎用 GPU 訓練、高消費電力
G (GPU)推論やグラフィックス向け
C (CPU)計算集約型 CPU ワークロード

不正解の理由

  • A: C シリーズは汎用 CPU 計算向けで、LLM トレーニングに必要な行列演算性能が不足し、結果として長時間稼働しエネルギー効率が悪化します。
  • B: G シリーズは推論や 3D グラフィックスを主目的とした GPU で、訓練性能では P や Trn に劣り電力効率も最適化されていません。
  • C: P シリーズは高性能 GPU を搭載しますが、汎用設計のため Trainium に比べてワットあたりの訓練スループットで劣ります。

参考:Amazon EC2 Trn1 Instances


コメント

コメント

コメントする

目次