SageMaker2026年7月6日
Amazon SageMaker HyperPod now supports disaggregated prefill and decode
AI要約
<p>Amazon SageMaker HyperPod now supports Disaggregated Prefill and Decode (DPD), an inference optimization that separates the two phases of large language model (LLM) inference — prefill and decode —
メリット
AWSサービスの機能改善により、より効率的なクラウド活用が可能になります。
対象ユーザー
AWSを利用する開発者・エンジニア
原文タイトル
Amazon SageMaker HyperPod now supports disaggregated prefill and decode
AWS公式アナウンスを読む →