18244236404

HPE 与 Nvidia 合作开发 AI 原生产品组合

Admin 168 2024-03-22 11:20

美国时间周二,HPE 在 Nvidia GTC 上推出了其 AI 原生产品组合的新成员,其中包括两款共同设计的生成式 AI (GenAI) 解决方案。


该产品组合旨在帮助企业实施 GenAI、深度学习和机器学习 (ML) 应用程序。


HPE推出了GenAI超级计算解决方案,旨在帮助组织开发和训练大型人工智能模型,并加速深度学习项目,包括法学硕士、推荐系统和矢量数据库。


该解决方案支持多达 168 个 Nvidia GH200 Grace Hopper 超级芯片,有助于通过 AI/ML 软件堆栈简化模型开发流程。


HPE表示,该解决方案提供安装和设置服务,专为人工智能研究中心和大型企业而设计,可缩短价值实现时间并将培训速度提高两到三倍。


用于 GenAI 调优和推理的企业计算解决方案


同时推出的还有 HPE 针对 GenAI 的企业计算解决方案,该解决方案可直接向客户提供,也可通过 HPE GreenLake 以按使用付费的模式提供。


与 Nvidia 共同设计的预配置微调和推理解决方案旨在“通过提供组织生产 GenAI 应用程序所需的正确计算、存储、软件、网络和咨询服务来减少启动时间和成本”。慧与说。


“AI 原生全栈解决方案为企业提供了使用私有数据定制基础模型以及在混合云模型中部署 GenAI 应用程序所需的速度、规模和控制力。”


该解决方案采用 HPE 和 Nvidia 的高性能 AI 计算集群和软件,专为模型、RAG 和横向扩展推理的轻量级微调而设计。


HPE 表示:“运行该解决方案的 700 亿参数 Llama 2 模型的微调时间随节点数量线性减少,在 16 节点系统上需要 6 分钟。”


该解决方案使用 HPE ProLiant DL380a Gen11 服务器,预配置了 Nvidia GPU、Nvidia Spectrum-X 以太网网络平台和 Nvidia BlueField-3 DPU。


它通过 HPE 的 ML 平台和分析软件、带有新的 Nvidia NIM 微服务的 Nvidia AI Enterprise 5.0 软件以及 Nvidia NeMo Retriever 和其他数据科学和 AI 库来增强,以优化 GenAI 模型的推理。 


HPE 机器学习推理软件


该公司宣布,HPE 客户现在可以预览其 HPE 机器学习推理软件,该软件“将使企业能够快速、安全地大规模部署 ML 模型”。


新产品将与 Nvidia NIM 集成,使用预构建容器提供 Nvidia 优化的基础模型。


HPE还推出了企业RAG参考架构,旨在帮助需要构建和部署具有私有数据的GenAI应用程序的企业。


该产品基于 Nvidia NeMo Retriever 微服务架构,由 HPE Ezmeral Data Fabric Software 和 HPE GreenLake for File Storage 的数据基础组成。 


为了帮助数据准备、AI 训练和推理,该解决方案融合了 HPE Ezmeral Unified Analytics 软件和 HPE AI 软件的开源工具和解决方案。


其中包括 HPE 机器学习数据管理软件、HPE 机器学习开发环境软件和新的 HPE 机器学习推理软件。


HPE 的人工智能软件可用于 HPE 的 GenAI 超级计算和企业计算解决方案,“为客户提供一致的环境来管理其 GenAI 工作负载”,该公司表示。


基于 Nvidia Blackwell 平台构建的未来解决方案


HPE 表示,将基于新发布的 Nvidia Blackwell 平台开发未来产品,即将推出的采用 Nvidia GB200 Grace Blackwell Superchip、HGX B200 和 HGXB100 的 HPE 产品的更多细节和可用性即将公布。


HPE 总裁兼首席执行官 Antonio Neri 表示:“为了兑现 GenAI 的承诺并有效解决整个人工智能生命周期,解决方案必须采用混合设计。”“从在本地、托管设施或公共云中训练和调整模型,到边缘推理,人工智能是一种混合云工作负载。


“HPE 和 Nvidia 有着悠久的合作创新历史,我们将继续提供共同设计的 AI 软件和硬件解决方案,帮助我们的客户加快 GenAI 从概念到生产的开发和部署。”


Nvidia 首席执行官黄仁勋表示,该公司“与慧与不断加强的合作将使企业能够利用其数据开发和部署新的人工智能应用程序来实现业务转型,从而提供前所未有的生产力。”


【公司名称】四川旭辉星创科技有限公司

【代理级别】成都惠普HPE服务器工作站总代理

【销售经理】熊经理

【联系方式】座机:028-85596747    手机:18244236404

【公司地址】成都市人民南路 科华路口 群益商务大厦403

联系我们
您好,咨询客服了解更多促销产品
售前优惠在线咨询
QQ咨询
微信咨询
售前优惠电话咨询专线:
18244236404
售后电话咨询专线:
028-85596747

请用微信扫描二维码

2.112562s