AI901-Concept#47-2
注: この問題は、同じ前提を持つ一連の問題の一部です。それぞれの問題には異なる解決策が提示されます。
前提
ある企業が長文の社内ドキュメント (1 件あたり約 30,000 文字) を Azure OpenAI で要約するアプリケーションを Microsoft Foundry SDK で構築しています。モデルのコンテキスト ウィンドウとトークン経済性を踏まえた設計が必要です。
解決策
コンテキスト ウィンドウが 4K トークンしかない古い GPT-3.5 モデルを選択し、30,000 文字のドキュメントを全文プロンプトとして 1 回で投入して要約を生成します。
この解決策は目的を満たしますか?
ディスカッション 0

コメント

コメントする

目次