AI901-Foundry#78-2
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
ある製薬企業が、研究者向けに「論文検索 + 化学構造解析 + 実験データ分析」を行う研究支援 AI を Foundry single-agent で構築・運用しています。導入後 3 ヶ月でユーザーから「応答に存在しない論文を引用する」「化学構造が間違っている」との苦情が増えました。本番品質を維持するための対処が必要です。
解決策
幻覚を抑える代わりに、temperature を 1.8 に上げて応答の創造性を最大化、system message を空にしてモデルに完全自由を与え、Content Safety と grounding の両機能を無効化します。
この解決策は目的を満たしますか?
解説
【判定: いいえ】の理由
本提案はすべての変更が幻覚を悪化させる方向で、要件と完全に矛盾します。temperature 1.8 は出力ランダム性を最大化し、根拠のない事実主張や架空の論文引用が大量発生します。system message を空にすればドメイン制約や禁止ルールが消失し、研究者の判断を誤らせる無責任な応答を返します。Content Safety / grounding の無効化は Responsible AI Standard の Reliability and safety / Transparency の両原則を完全に放棄する設計で、製薬研究のような高リスク領域では患者安全 / 研究公正性を脅かす重大インシデントを招きます。本来は temperature を低く保ち、grounding を強化し、Content Safety を必須として、専門ドメインの検証を加える方向の真逆を行く誤った設計です。
【「はい」が違う理由】
すべての変更が品質悪化の方向で、要件 (本番品質維持) を満たすどころか問題を増幅させます。「目的を満たす」と判定する根拠はありません。
本提案はすべての変更が幻覚を悪化させる方向で、要件と完全に矛盾します。temperature 1.8 は出力ランダム性を最大化し、根拠のない事実主張や架空の論文引用が大量発生します。system message を空にすればドメイン制約や禁止ルールが消失し、研究者の判断を誤らせる無責任な応答を返します。Content Safety / grounding の無効化は Responsible AI Standard の Reliability and safety / Transparency の両原則を完全に放棄する設計で、製薬研究のような高リスク領域では患者安全 / 研究公正性を脅かす重大インシデントを招きます。本来は temperature を低く保ち、grounding を強化し、Content Safety を必須として、専門ドメインの検証を加える方向の真逆を行く誤った設計です。
【「はい」が違う理由】
すべての変更が品質悪化の方向で、要件 (本番品質維持) を満たすどころか問題を増幅させます。「目的を満たす」と判定する根拠はありません。
コメント