兆芯公司近期宣布了一项重大技术突破,其处理器平台现已全面支持DeepSeek-R1 Distill模型的本地部署,覆盖了从1.5B到671B等多种参数规模,这一进展适用于PC笔记本、台式机、工作站以及服务器等多种终端设备。
在操作系统兼容性方面,兆芯展现了极高的灵活性,原生支持Linux、Windows以及多种国产操作系统,并且与国产GPU AI加速卡实现了无缝对接,进一步拓宽了应用生态。
以开先KX-7000桌面处理器为基础的台式机,通过配备国内显卡和加速卡,成功运行了DeepSeek-R1-7B模型,这一组合充分展现了DeepSeek在语义理解和推理方面的强大能力。通过与WPS Office套件(包括Word、Excel)以及VSCode等常用软件的集成,用户现在能够享受到智能文档处理、数据处理以及智能编程等便捷功能。
智能文档处理界面示例
智能数据处理应用场景
基于KH-40000/16服务器处理器的工作站“联和东海XRS302”,也成功部署了DeepSeek-R1的7B、14B和32B模型。该工作站配备了四块高性能国产GPU推理加速卡,不仅提供了高性价比和稳定的推理能力,还通过优化的CPU与多GPU互连架构,显著提升了数据传输带宽并降低了延迟。其低功耗和静音设计,使其非常适合智能办公等桌面本地化AI推理场景。
联和东海XRS302 AI工作站外观
在服务器端,开胜KH-40000/32处理器凭借其双路64核心的高性能计算能力、对2TB海量内存的支持以及强大的扩展能力,成功适配并部署了DeepSeek-R1-70B版本。这一配置特别适用于数学、编程、推理等多个应用领域。针对DeepSeek-R1-671B这一更大规模的模型,开胜KH-40000/32处理器在不依赖任何外部加速卡的情况下,也完成了本地部署,这充分验证了兆芯服务器CPU架构在承载千亿参数模型方面的硬件实力。
兆芯服务器上DeepSeek-R1-70B版本的部署实例