AWS 发文介绍 Nemotron 3.5 Super VL 在 EKS 上的部署

AWS Machine Learning Blog 发文，介绍如何在 Amazon EKS、EKS Auto Mode 和 SageMaker HyperPod EKS 上部署 NVIDIA Nemotron 系列模型，并以 Nemotron 3.5 Super VL 为例说明其架构与用例。 文章称，NVIDIA 公开了该模型的权重、训练数据集和后训练配方，用户可针对特定领域工作负载进行定制，并在自己控制的云基础设施上运行。aws-do-eks 项目提供了 Nemotron 3.5 Super VL 和 Nemotron 3 Ultra 在 AWS 上的完整操作步骤，包括前置条件、创建集群、下载模型权重、部署、测试、基准测试和清理。 文章建议用户在自己的账户中，使用参考实现部署 Nemotron 3.5 Super VL。上述部署流程和性能评估方法均出自 AWS 这篇文章的介绍，尚未见独立的实测结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。