AI901-Foundry#41
Foundry SDK の streaming モード (
stream=True) の主な利点として、最も適切なものはどれですか?解説
【正解: A】の理由
streaming モードはモデルが生成したトークンを生成完了を待たずに逐次受信する機能で、Server-Sent Events ベースで実装されます。UX 上の体感レイテンシを大幅に改善でき、チャット UI / コード補完 / リアルタイム翻訳など対話型アプリで標準的に使われます。Python では
【他選択肢が違う理由】
streaming モードはモデルが生成したトークンを生成完了を待たずに逐次受信する機能で、Server-Sent Events ベースで実装されます。UX 上の体感レイテンシを大幅に改善でき、チャット UI / コード補完 / リアルタイム翻訳など対話型アプリで標準的に使われます。Python では
for chunk in client.chat.completions.create(stream=True, ...) で受信します。【他選択肢が違う理由】
- B: トークン使用量は変わりません。
- C: 料金は変わりません。
- D: OS パッチは無関係です。

コメント