京东云近期发布了一款创新的vGPU智算一体机,该产品在性能上相较于开源方案实现了显著提升,推理速度提高了50%,且单台设备即能运行DeepSeek V3/R1大模型的满血版本。
这款智算一体机依托于京东云自主研发的算力池化技术和智能推理加速引擎,其强大的性能支持高达千人规模的并发处理,而每日运营成本仅需百元,极大地降低了企业的使用门槛。
具体来说,京东云vGPU智算一体机带来了四大显著优势:
首先,硬件成本的大幅降低。企业无需再额外采购昂贵的高端GPU,单台智算一体机即可满足其业务需求,从而节省了大量的硬件投资。
其次,部署和运维成本的优化。这款设备开箱即用,从硬件上架到AI服务上线,仅需简单的电源网络接入和软件启动两步操作,大大简化了部署流程。
再者,能效比的提升。京东云与厂商合作多年,对硬件进行了深度优化和合理配置,使得功耗显著降低,能效比大幅提升。
最后,算力池化和推理加速。智算一体机预置了京东云的vGPU AI算力平台能力,实现了整机算力的细粒度管理与优化,资源利用率提升至70%以上,推理性能更是提高了50%。
京东云vGPU智算一体机还支持NVIDIA GPU以及多种国产GPU,并通过了互认证,确保了兼容性和稳定性。同时,它还支持单机内RAID配置,有效降低了数据丢失的风险。