SageMaker HyperPodがアイドルリソース共有による動的クラスタ利用をサポート

概要

Amazon SageMaker HyperPodのタスク統治機能が、保証されたクォータを超える未割り当てコンピュートリソースの動的共有をサポートするようになりました。管理者はアクセラレータ、vCPU、メモリなどのリソースタイプごとに借用制限を設定できます。高額なコンピュートインスタンスのアイドル化を自動的に検出して効率的に再配置することで、クラスタ利用率の向上と公平なリソース分配が実現します。

何が変わったか

• ・HyperPodクラスタ内の未割り当てコンピュートリソースを自動検出し、チーム間での借用を可能に
• ・アクセラレータ、vCPU、メモリなどのリソースタイプごとに借用制限を設定可能
• ・クラスタ状態の変化に応じて借用可能なリソースを自動的に再計算し、手動設定不要に

影響

生成AI関連の共有クラスタを運用する企業は、既存の高額なインスタンスコストを削減しながらリソース効率を最大化できます。複数チームでのリソース競合を自動調停することで、運用管理の手間が大幅に軽減されます。

対象ユーザー

SageMaker HyperPodを使用する機械学習エンジニア、クラスタ管理者、データサイエンティスト、生成AI関連のワークロードを運用するチーム

原文タイトル

SageMaker HyperPod now supports idle resource sharing for dynamic cluster utilization