AI901-Concept#47-1
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
ある企業が長文の社内ドキュメント (1 件あたり約 30,000 文字) を Azure OpenAI で要約するアプリケーションを Microsoft Foundry SDK で構築しています。モデルのコンテキスト ウィンドウとトークン経済性を踏まえた設計が必要です。
解決策
Azure OpenAI のモデルとして 128K トークンのコンテキスト ウィンドウを持つ GPT-4o を選択し、ドキュメント全体を 1 回のプロンプトで投入して要約を生成します。
この解決策は目的を満たしますか?
ディスカッション 0

コメント

コメントする

目次