SageMaker Notebook InstancesがP5en.48xlインスタンスタイプに対応
SageMaker Notebook Instances now support P5en.48xl instance types
概要
Amazon EC2 P5en.48xlインスタンスがSageMaker Notebook Instancesで一般利用可能になりました。P5en.48xlは8個のH200 GPUを搭載し、H100 GPUと比べてGPUメモリが1.7倍、メモリ帯域幅が1.4倍になっています。米国東部(バージニア、オハイオ)、米国西部(オレゴン)、アジアパシフィック(東京)リージョンで利用可能です。
何が変わったか
- ・P5en.48xlインスタンスにH200 GPU 8個を搭載(H100 GPUと比べてGPUメモリ1.7倍、GPU帯域幅1.4倍)
- ・Gen5 PCIe対応により、CPU-GPU間の帯域幅が4倍に増加
- ・第3世代EFA使用により、P5比で最大35%のレイテンシ改善を実現
- ・US East(N. Virginia、Ohio)、US West(Oregon)、Asia Pacific(Tokyo)リージョンで利用可能
影響
既存ユーザーは新しいインスタンスタイプを選択することで利用可能になり、強制的な移行は不要です。新規ユーザーは高性能な計算が必要な場合にこのインスタンスタイプを選択できるようになります。
対象ユーザー
深層学習、生成AI、HPC アプリケーションの分散トレーニングを行うML エンジニア、データサイエンティスト、研究者
まとめ
SageMaker Notebook InstancesでP5en.48xlインスタンスタイプが一般利用可能になり、分散トレーニング性能が大幅に向上した。
原文タイトル
SageMaker Notebook Instances now support P5en.48xl instance types
AWS公式アナウンスを読む →