AWS Machine Learning Blog· Alex Iankoulski·· 11 天前AI 评分67
AWS 教程:在 EKS 和 SageMaker HyperPod 上部署 NVIDIA Nemotron 3.5 Super VL
Accelerate agentic AI with NVIDIA Nemotron models on Amazon EKS and SageMaker HyperPod EKS
AI 导读
AWS 发布教程,展示如何在 Amazon EKS 和 SageMaker HyperPod EKS 上部署 NVIDIA Nemotron 3.5 Super VL 模型。该模型为 120B 参数 MoE 架构,支持文本、图像、文档和视频理解,并提供了 vLLM 部署配置及基于 aiperf 的性能评估方法。
来源:AWS Machine Learning Blog · aws.amazon.com