タグ:

SageMaker JumpStartで、基盤モデルを用途別の最適化設定でデプロイできる機能が追加された。コスト最適・スループット最適・レイテンシ最適・バランスの4つのターゲットから選択でき、デプロイ前にP50レイテンシ・TTFT・スループットを確認できる。30以上のモデル（Llama 3.1/3.2、Phi-3、Mistral、Qwen、Gemma、Falcon3など）に対応する。