AI901-Concept#71-2
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
ある法律事務所が、頻繁に追加・改訂される社内判例データベース (1 万件) を参照してクライアント問い合わせに応答するアシスタントを Azure AI Foundry で構築します。判例は週次で更新され、最新情報を常に参照させる必要があります。
解決策
判例 1 万件すべてをモデルの重みに焼き込むため、毎週 GPT-4o を完全 fine-tuning し直して新しいバージョンをデプロイします。
この解決策は目的を満たしますか?
解説
【判定: いいえ】の理由
毎週の完全 fine-tuning は、コスト・運用負荷・品質保証のすべての観点で非現実的です。fine-tuning は数十時間と高額な GPU リソースを要求し、毎週実施するとライセンスと予算が破綻します。さらに頻繁な再訓練は評価とリグレッション テストに時間を取られ、本番品質を維持できません。Microsoft の RAG vs fine-tuning ガイダンスは「頻繁に更新される事実情報は RAG、口調 / 形式の調整は fine-tuning」と明確に分けており、本シナリオは典型的な RAG ユース ケースです。
【「はい」が違う理由】
技術的には可能でも、コストと運用の現実性を満たせず、最新性確保の手段としても遅すぎます。本シナリオでは費用対効果が破綻するため、「目的を満たす」と判定するのは適切ではありません。 法律事務所のような規制業種では監査追跡性も損なうため受け入れられません。
毎週の完全 fine-tuning は、コスト・運用負荷・品質保証のすべての観点で非現実的です。fine-tuning は数十時間と高額な GPU リソースを要求し、毎週実施するとライセンスと予算が破綻します。さらに頻繁な再訓練は評価とリグレッション テストに時間を取られ、本番品質を維持できません。Microsoft の RAG vs fine-tuning ガイダンスは「頻繁に更新される事実情報は RAG、口調 / 形式の調整は fine-tuning」と明確に分けており、本シナリオは典型的な RAG ユース ケースです。
【「はい」が違う理由】
技術的には可能でも、コストと運用の現実性を満たせず、最新性確保の手段としても遅すぎます。本シナリオでは費用対効果が破綻するため、「目的を満たす」と判定するのは適切ではありません。 法律事務所のような規制業種では監査追跡性も損なうため受け入れられません。
コメント