ITBear旗下自媒体矩阵:

无问芯穹开源端侧全模态理解模型,加速AI模组与终端融合

   时间:2024-12-16 14:23:25 来源:ITBEAR编辑:瑞雪 发表评论无障碍通道

近日,国内新兴AI企业无问芯穹宣布了一项重大开源举措,向全球开发者开放其“端模型+端软件+端IP”一体化解决方案的核心组件。此次开源的包括全球首个端侧全模态理解模型Megrez-3B-Omni及其纯语言版本Megrez-3B-Instruct,标志着无问芯穹在推动AI技术普及与应用方面迈出了重要一步。

据无问芯穹介绍,Megrez-3B-Omni作为一次能力预览,预示着未来该系列模型将持续迭代升级,形成更加完善的解决方案。该方案不仅涵盖模型本身,还包括配套的软件和IP,旨在为用户提供端到端的智能解决方案。

无问芯穹自2023年5月成立以来,凭借清华大学电子工程系背景的创始团队,迅速在AI领域崭露头角。公司专注于打造“M×N”中间层产品,即在大模型与多种芯片之间建立高效、统一的部署桥梁,旨在构建AGI(通用人工智能)时代的大模型基础设施。

在产品层面,无问芯穹已推出算力推理平台、AI基础设施解决方案以及上述的端上智能一体化解决方案。这些产品覆盖了从底层算力到上层应用的完整链条,为用户提供了全方位的技术支持。

无问芯穹的平台已支持超过20个大模型,包括Baichuan2、ChatGLM3、Llama2等,并兼容10余种计算卡,如AMD、壁仞、寒武纪等。这种广泛的兼容性使得用户能够在多种硬件平台上高效运行大模型,实现软硬件的联合优化和统一部署。

在融资方面,无问芯穹的发展势头同样强劲。今年9月,公司宣布完成近5亿元的A轮融资,由社保基金中关村自主创新专项基金、启明创投和洪泰基金联合领投,跟投方包括联想创投、小米、软通高科等知名企业及多家国资基金和财务机构。至此,无问芯穹在成立仅16个月内,累计融资额已接近10亿元。

无问芯穹的联合创始人兼CEO夏立雪曾表示,公司在互联网客户的大模型推理业务场景中,成功将整体算力使用效率提升了90%,有效降低了客户的算力成本。这一成果不仅展示了无问芯穹在软硬件协同优化方面的强大实力,也为其未来的规模化盈利奠定了坚实基础。

随着端侧AI产业的快速发展,无问芯穹的开源举措无疑将进一步推动AI技术的普及与应用。通过提供“端侧算力+通信+API”功能的AI模组产品,无问芯穹能够将大模型能力直接带入各种终端设备,从而加速“AI终端”时代的到来。

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  RSS订阅  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version