ITBear旗下自媒体矩阵:

兆芯整机全面拥抱AI,DeepSeek-R1大模型本地部署展现强劲算力

   时间:2025-02-24 22:18:46 来源:ITBEAR编辑:快讯团队 发表评论无障碍通道

兆芯公司近期宣布了一项重大技术突破,其处理器平台现已全面支持DeepSeek-R1 Distill模型的本地部署,覆盖了从1.5B到671B等多种参数规模,这一进展适用于PC笔记本、台式机、工作站以及服务器等多种终端设备。

在操作系统兼容性方面,兆芯展现了极高的灵活性,原生支持Linux、Windows以及多种国产操作系统,并且与国产GPU AI加速卡实现了无缝对接,进一步拓宽了应用生态。

以开先KX-7000桌面处理器为基础的台式机,通过配备国内显卡和加速卡,成功运行了DeepSeek-R1-7B模型,这一组合充分展现了DeepSeek在语义理解和推理方面的强大能力。通过与WPS Office套件(包括Word、Excel)以及VSCode等常用软件的集成,用户现在能够享受到智能文档处理、数据处理以及智能编程等便捷功能。

智能文档处理界面示例

智能数据处理应用场景

基于KH-40000/16服务器处理器的工作站“联和东海XRS302”,也成功部署了DeepSeek-R1的7B、14B和32B模型。该工作站配备了四块高性能国产GPU推理加速卡,不仅提供了高性价比和稳定的推理能力,还通过优化的CPU与多GPU互连架构,显著提升了数据传输带宽并降低了延迟。其低功耗和静音设计,使其非常适合智能办公等桌面本地化AI推理场景。

联和东海XRS302 AI工作站外观

在服务器端,开胜KH-40000/32处理器凭借其双路64核心的高性能计算能力、对2TB海量内存的支持以及强大的扩展能力,成功适配并部署了DeepSeek-R1-70B版本。这一配置特别适用于数学、编程、推理等多个应用领域。针对DeepSeek-R1-671B这一更大规模的模型,开胜KH-40000/32处理器在不依赖任何外部加速卡的情况下,也完成了本地部署,这充分验证了兆芯服务器CPU架构在承载千亿参数模型方面的硬件实力。

兆芯服务器上DeepSeek-R1-70B版本的部署实例

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  RSS订阅  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version