慧与对 Qualcomm Technology Cloud AI 100 的认可是当今市场上最高效、高性能的 AI 推理引擎迈出的一大步。

当我在 AMD 工作以将第一代 EPYC 服务器 SoC 添加到 HPE 服务器时，我了解到该公司用来鉴定 CPU 或 GPU 的过程被称为“绞肉机”是有道理的。用低沉、威胁的声音读它，你就会明白。一旦慧与管理层确定您有一个有价值的产品并且可能有大量需求，“有趣”的部分就开始了。HPE 工程师在数月内测试了数百万个功率、温度、负载、性能和逻辑的极端案例，然后才告诉他们的客户该 CPU 或卡达到了他们的高质量标准并得到完全支持。

这是 Qualcomm Technologies (QTI) 在 HPE Edgeline 服务器上安装 AI 加速器时必须克服的障碍。所以这是一件大事，而且可能不是我们将在 QTI 和 HPE 中看到的最后一个。顾名思义，Edgeline 系列用于工厂自动化中的边缘部署，通常配置在坚固的机箱中。随着 AI 成为边缘处理应用程序的普遍工具，HPE 看到了与 QTI 合作在图像和 NLP 应用程序中进行最先进的 AI 处理的绝佳机会。

对两家公司而言，更大的机会可能是 HPE 将 QTI 卡纳入 HPE Proliant DL 服务器系列，该系列深受企业和第二层云服务提供商的欢迎。大规模人工智能是一个巨大的市场，而且增长迅速。例如，Meta 每天在 Facebook 平台上处理数百万亿（是的，带有“T”的万亿）的推理。尽管英特尔在将这些周期保持在具有 AI 功能的 Xeon 处理器上做得非常出色，但专用 AI 处理具有 TCO 优势，并且可以提供一致的性能和延迟。

虽然上图适用于 Gigabyte 服务器，但 HPE 服务器将提供相当的价值，并为 QTI 打开许多大门。在与 HPE 管理层交谈时，他们指出 AI 100 与替代技术相比具有领先的性能，并引用了 MLPerf 基准测试显示的约 6 倍性能优势，而功耗与客户一直要求的相同 (75W)。

业界最大的服务器供应商 HPE 的采用应该让 QTI 在边缘和云端的 AI 推理处理方面获得应有的尊重和产品需求。根据我们的数学计算，大型数据中心通过使用 AI 100 处理图像和语言模型的神经网络，每年可以节省数千万美元的电力消耗。

【公司名称】四川旭辉星创科技有限公司

【代理级别】成都惠普HPE服务器工作站总代理

【销售经理】熊经理

【联系方式】座机：028-85596747    手机：18244236404

【公司地址】成都市人民南路4段 桐梓林 商鼎国际2号楼1单元1913