跳到正文
AWS Machine Learning Blog· Alex Iankoulski·· 2 天前精选

AWS博客发布:在Amazon EKS和SageMaker HyperPod上加速使用NVIDIA Nemotron模型

Accelerate agentic AI with NVIDIA Nemotron models on Amazon EKS and SageMaker HyperPod EKS

原始来源:AWS Machine Learning Blog阅读原始报道
AI 导读

NVIDIA Nemotron 3.5 Super VL是一个120B参数的多模态MoE模型,支持文本、图像、文档和视频输入,输出文本。该模型由Nemotron 3 Ultra蒸馏而来,提供12B激活参数/token,上下文长度达1M token。

推荐理由

原文给出了Nemotron 3.5 Super VL的架构、性能基准和部署指南,读者可以了解其多模态能力、GPU配置要求以及在EKS/HyperPod上的部署实践。

来源:AWS Machine Learning Blog · aws.amazon.com