近日,飞腾平台宣布全面支持DeepSeek全系列大模型,这一举措涵盖了飞腾腾云S5000C与腾锐D3000处理器,广泛适用于数据中心及终端应用场景,展现出卓越的性能表现。
在DeepSeek-V3与R1版本面世后,飞腾迅速行动,在腾云S5000C与腾锐D3000平台上进行了详尽的本地部署验证,成功构建了一整套端到端的国产平台DeepSeek大模型智能计算环境。特别是在数据中心领域,腾云S5000C服务器与多款国产AI加速卡的协同工作,使得DeepSeek蒸馏版与全量版得以顺利部署。
据官方实际测试数据揭示,飞腾腾云S5000C配合8张国产AI加速卡使用时,DeepSeek-R1-Distill-Llama-70B版本的推理速度惊人,每秒可处理22个tokens,其本地部署的推理效率与海外同类产品旗鼓相当,整体性能达到了国外平台性能的约80%。DeepSeek R1 671B的完整版模型也已在由四台机器、32张AI加速卡组成的服务器集群上,通过分布式推理框架成功部署。
在用户终端层面,基于腾锐D3000处理器与银河麒麟V10操作系统的台式机,同样展现出了强大的本地部署能力。通过搭载DeepSeek-R1 7B蒸馏版模型及1张国产推理卡,这些台式机已具备了AI PC的功能,为用户提供了一个安全可靠的本地知识助手。
飞腾平台此番对DeepSeek全系列大模型的全面支持,不仅进一步拓宽了国产处理器在AI领域的应用范围,也为数据中心与终端用户带来了更为高效、智能的解决方案,标志着国产平台在AI技术领域的又一重大突破。