阿里云团队近期公布了一项重大进展,正式向公众开源了其最新的推理模型——通义千问 QwQ-32B。紧随其后,摩尔线程智能科技(北京)股份有限公司迅速宣布,在该模型发布后不久,便成功实现了对其的支持。
摩尔线程官方详细介绍称,他们利用自主研发的大语言模型高速推理框架 vLLM 和 MT Transformer 推理引擎,成功部署了 QwQ-32B。在实际应用中,该模型展现出了出色的推理性能和高度稳定性。这一成果不仅彰显了摩尔线程在 AI 模型支持方面的技术实力,也进一步验证了其 MUSA 架构和全功能 GPU 在生态兼容与快速响应方面的独特优势。
为了让更多用户能够体验到这一先进技术,摩尔线程将 QwQ-32B 模型开放上线至其模型广场“夸娥工场”。用户只需访问指定网址,即可轻松体验这一高性能推理模型。这一举措无疑将极大地推动 AI 技术在更多领域的应用和发展。
据摩尔线程官方提供的体验地址显示,夸娥工场体验地址为:https://playground.mthreads.com,而 QwQ-32B 的专属体验地址则为:https://playground.mthreads.com:12019。通过这些平台,用户可以深入了解并体验 QwQ-32B 模型的强大功能。
早前,阿里云通义千问官方曾透露,QwQ-32B 是一款拥有 320 亿参数的推理模型。尽管其参数量相对较少,但其性能却足以与拥有 6710 亿参数(其中 370 亿被激活)的 DeepSeek-R1 相媲美。这一数据无疑令人惊叹,也进一步证明了阿里云在 AI 技术领域的深厚积累和创新能力。
随着 QwQ-32B 模型的开源和摩尔线程的快速支持,我们有理由相信,这一高性能推理模型将在未来在更多领域发挥重要作用,推动 AI 技术的不断发展和创新。