国产GPU领域近日传来喜讯,景嘉微公司正式宣布,其JM系列、景宏系列GPU已成功适配DeepSeek R1系列模型,这一里程碑式的进展预示着DeepSeek将在云计算、边缘计算及终端设备等多元场景下实现更广泛的应用。
具体而言,景嘉微的JM系列GPU已经成功完成了对DeepSeek-R1-Distill-Qwen-1.5B和DeepSeek-R1-Distill-Qwen-7B两大模型的适配工作,这标志着JM系列在处理大规模语言模型时的能力得到了显著提升。
与此同时,景宏系列GPU也展现出了强大的兼容性,全面适配了DeepSeek R1全系列模型,覆盖了从1.5B到70B参数规模的LLaMA及千问模型架构,为用户提供了更为丰富的选择。
基于vLLM推理框架的部署方案,景嘉微实现了高效推理性能与经济性的完美结合,为开发者提供了极大的便利。该方案简化了启动和使用的流程,无需复杂的配置,大大加速了AI技术的规模化落地应用。
景嘉微官方对此表示,这次国产GPU与国产大模型的结合,是一次梦幻般的联动,也是向中国AI开发者的一次致敬。这一举措不仅彰显了国产GPU的实力,更为AI领域的发展注入了新的活力。
值得注意的是,摩尔线程也在近期实现了对DeepSeek蒸馏模型推理服务的高效部署。开发者可以基于摩尔线程的全功能GPU进行AI应用的创新,这无疑为AI领域的发展提供了更多的可能性。
用户还可以利用摩尔线程的MTT S80和MTT S4000显卡进行DeepSeek-R1蒸馏模型的推理部署,这进一步拓宽了AI技术的应用场景,为用户提供了更为便捷和高效的解决方案。