Amazon ECS Managed InstancesがAWS TrainiumおよびAWS Inferentiaに対応

概要

Amazon ECS Managed Instancesは、生成AIの学習と推論向けに設計されたAWS TrainiumおよびAWS Inferentiaアクセラレータに対応しました。ユーザーはECS Managed Instancesの容量プロバイダーで加速インスタンスタイプ（Inferentia2、Trainium1、Trainium2）を選択し、タスク定義にNEURON_CORE=allを設定することで、アクセラレータのすべてのリソースを自動的にワークロードに割り当てられます。インフラストラクチャ管理の負担をAWSに委譲しながら、AIアクセラレータの性能を活用できるようになります。

何が変わったか

• ・ECS Managed InstancesがInferentia2、Trainium1、Trainium2のアクセラレータインスタンスタイプに対応
• ・タスク定義のResourceRequirementセクションにNEURON_CORE=allを設定することでアクセラレータの全リソースを自動割り当て可能に
• ・ECS Managed Instances容量プロバイダーで加速インスタンスタイプを選択可能になり、インスタンスごとに単一タスクを配置

影響

既存のECS Managed Instancesユーザーに対して強制的な変更はありませんが、AIアクセラレータを利用したい場合は容量プロバイダーの設定とタスク定義の更新が必要になります。

対象ユーザー

生成AIの学習・推論ワークロードをコンテナで実行し、インフラストラクチャ管理の負担を軽減したいMLエンジニアおよび開発チーム

原文タイトル

Amazon ECS Managed Instances now supports AWS Trainium and AWS Inferentia