18244236404

HPE 与 Nvidia 合作开发人工智能优化平台和服务

Admin 31 2024-01-25 10:14

QQ图片20240125101458.png


惠普企业公司正在调整其人工智能产品组合,今天宣布推出一套新的混合云产品,用于机器学习开发、数据分析、人工智能优化的文件存储和人工智能推理服务的微调。


该公司表示,这些服务将在一个平台上提供,该平台结合了开源软件和基础设施,专为人工智能模型训练的数据需求而设计。


“企业接受、探索和试验如何转变部分业务运营的速度至关重要,”HPE 计算部门总经理 Neil MacDonald 表示。“我们正在提供一种开箱即用的推理解决方案,使客户能够采用预先训练的模型并将其部署到环境中并转变他们的运营,并且比以前更快地完成这一任务。”


超级计算优势

HPE表示,将利用其GreenLake平台提供以人工智能为中心的功能组合,包括数据优先管道、生命周期管理软件、高性能互连以及对第三方扩展的开放生态系统的支持。该公司表示,通过 2019 年收购 Cray Research Inc. 获得的超级计算专业知识使其在市场上占据优势。


“你的 DNA 中需要超级计算,并且能够扩展到大规模计算,”HPE 人工智能首席产品官 Evan Sparks 说道。“慧与已经在许多其他领域解决了这些问题。”


该公司利用其探索巴塞罗那会议宣布与 Nvidia Corp. 扩大合作,提供由 Nvidia 构建的生成式 AI 专用计算平台,该平台将针对使用私有数据集和自定义软件工具训练和调整 AI 模型进行优化。


该平台基于 HPE ProLiant DL380a 硬件,预配置了 Nvidia L40S 图形处理单元、BlueField-3 数据处理单元和 Spectrum-X 以太网网络,其规模可微调具有 16 台服务器和 700 亿参数的 Llama-2 模型。 64 个 GPU。它将配备增强型 HPE 机器学习开发环境,具有用于原型设计和测试的生成式 AI 工作室功能,以及具有 GPU 感知功能的 HPE Ezmeral 软件版本。


还包括用于安全且可管理的人工智能开发和部署的 Nvidia人工智能企业云数据软件堆栈,以及用于模型定制和部署的 Nvidia NeMo云原生框架。


新型应用

Nvidia 企业计算副总裁 Manuvir Das 表示:“生成式 AI 催生了一种新型企业应用程序。” “它使用人工智能嵌入模型将数据仓库中的数据转换为嵌入,这是信息含义的表示。然后,您使用矢量数据库来存储这些嵌入,以便您可以与数据对话,找到仓库中最能代表答案的所有信息,并将其转化为提示来提供您的大型语言模型。”


以人工智能为中心的基础设施将包括用于文件存储的 GreenLake,这是一个针对模型训练和调整进行微调的全闪存非结构化数据平台。该平台的性能密度是现有 GreenLake 文件存储的两倍,吞吐量和与Nvidia Quantum-2 InfiniBand 网络平台的连接性是四倍。


HPE 机器学习开发环境现已作为模型培训的托管服务提供。该公司表示,该服务降低了模型开发的操作复杂性和人员需求,并具有用于原型设计和测试的生成人工智能专用工作室功能。


HPE Ezmeral 软件容器平台的增强功能现在支持针对 GPU 优化的混合数据 Lakehouse,并与 NFS 文件系统和 Amazon Web Services Inc. 的 S3 兼容对象存储兼容。与机器学习开发环境集成的分析软件提供增强模型训练和调整。


HPE Ezmeral 软件总经理 Mohan Rajagopalan 表示:“我们正在努力打造单一管理平台体验,以最大限度地利用和管理您的数据,无论数据位于何处。”


增强的产品针对跨工作负载的 Nvidia GPU 分配进行了优化,并提供对第三方集成的访问,包括用于数据记录的开源 Whylogs 和用于 GPU 加速查询的 Voltron Data Inc. 框架。


HPE还表示,其服务组织将提供广泛的咨询、培训和部署服务,并由位于西班牙、美国、保加利亚、印度和突尼斯的新人工智能和数据中心提供支持。客户可以从明年第一季度开始订购生成式人工智能产品和服务。


【公司名称】四川旭辉星创科技有限公司

【代理级别】成都惠普HPE服务器工作站总代理

【销售经理】熊经理

【联系方式】座机:028-85596747    手机:18244236404

【公司地址】成都市人民南路 科华路口 群益商务大厦403

联系我们
您好,咨询客服了解更多促销产品
售前优惠在线咨询
QQ咨询
微信咨询
售前优惠电话咨询专线:
18244236404
售后电话咨询专线:
028-85596747

请用微信扫描二维码

0.275831s