近日, 国际权威 AI 性能基准评测平台 MLPerf 发布最新推理 (Inference v2.0) 测试成绩, 总计超过 10 家国际知名服务器厂商的数十种产品参与了本次测试。其中, 宁畅 X640 G40、X660 G45、X620 G40 人工智能服务器, 在 Closed (封闭) 赛段的 3D-UNet99 (图像分割)、SSD-large (目标检测重量级) 与 Bert-99 (自然语言处理) 等模型测试中性能表现出色, 共获得 59 项第一成绩。
MLPerf 基准测试在国际 AI 领域有极高影响力, 其基准联盟已有谷歌、Intel、NVIDIA、微软、Facebook 等超 50 家成员。MLPerf Inference v2.0 AI 基准测试包括 Datacenter (数据中心) 和 Edge (边缘) 两大场景, 参与测试的各计算系统基于同一套参数运行。
X640 G40 获得 Datacenter 组全场第一
搭载 NVIDIA A100 Tensor Core 80GB GPU, 宁畅 X640 G40 在 Closed (封闭) 赛段所有已发布的产品中, 获得 10 项 Datacenter 组总体性能第一成绩, 也是本次测试中的全场第一。
最新的 MLPerfInference v2.0 设置了不同领域的 Benchmark 子项, 贴近前沿 AI 应用场景。X640 G40 在 3D-UNet99 (图像分割)、SSD-large (目标检测重量级)、Rnnt (语音辨识) 和 Bert-99 (自然语言处理) 等多个经典模型测试中均取得高光表现。
拥有强劲性能的宁畅 X640 G40 可针对不同 AI 场景和训练模型进行互联优化, 满足不同类型客户需求。其中,SSD-large 模型在线分数 8994.9、离线分数 9279.37, 这一成绩代表了宁畅 X640 G40 每秒可完成 9200 多张图片中信息的分类、定位与精准检测, 且可应答近 9000 次实时目标检测的推理任务;Rnnt 模型离线分数为 127213, 代表宁畅 X640 G40 每秒可完成 12 万次语音的识别请求。
X660G45 拿下 Edge 组单项性能冠军,Datacenter 组同配置 7 项第一
所有产品中, 宁畅 X660 G45 搭载 NVIDIA A100 Tensor Core80GB GPU, 在 SSD-Mobilenet (目标检测移动端) 模型测试的 Multi-Stream (多数据流) 场景中, 以 0.44 成绩击败所有参赛产品, 获第一成绩。同时,X660 G45 还取得 Datacenter 组同配置的 7 项第一, 在 SSD-large、ResNet、Bert-99、Dlrm -99 (智能推荐) 四项任务中都实现了极佳的性能结果。其 ResNet 得分在线为 286,030、离线为 316,636, 代表宁畅 X660 G45 能够每秒完成超过 30 万张图片中各个事物类别的海量识别。
X660 G45 是专为深度学习训练开发的高性能计算平台, 采用 600GB / s 的 NVLink 总线高速互联, 每个 GPU 还可搭配 HDR 200Gb / s InfiniBand 网络和 NVMe SSD 高速缓存, 帮助用户搭建 GPU 高速集群, 同时结合近 500TB 的本地存储容量, 可极大缩短 AI 模型训练时间。
X620 G40 赢取 Datacenter 组同配置 15 项第一
本次测评中, 搭载 4 颗 NVIDIA A2 Tensor Core 的宁畅 X620 G40 获得 Datacenter 组同配置 15 项第一的成绩。X620 G40 在 SSD-large、ResNet、3D-UNet99、Bert-99、Rnnt 和 Dlrm-99 等几乎所有模型测试中都取得优异成绩, 充分证明产品在推理性能上出类拔萃, 能够应对各种复杂的 AI 挑战。
X620 G40 作为一款 2U 高度人工智能服务器, 支持 PCIe4.0 高速总线技术, 适配 NVIDIA 各类 GPU 加速卡, 是理想 AI 推理计算平台, 同时还可胜任桌面虚拟化、云游戏和视频流转码等多 IT 行业用途需求。此外,X620 G40 还具备关键部件健康状态监控和上报功能, 可以为数据中心运维保驾护航。
此次 MLPerf Inference v2.0 榜单的发布, 进一步彰显了宁畅在 AI 服务器领域的实力地位。以此为依托, 宁畅将持续推动技术创新, 不断深入各种 AI 应用场景, 以智能定制算力赋能用户更好发展。
