ITBear旗下自媒体矩阵:

AI推理竞赛热度爆棚,智能风暴来袭,你准备好迎接挑战了吗?

   时间:2024-09-02 14:07:46 来源:ITBEAR作者:沈瑾瑜编辑:瑞雪 发表评论无障碍通道

【ITBEAR】9月2日消息,在AI推理芯片市场上,尽管英伟达依然保持着领先地位,但新的挑战者正不断涌现,尝试在这块领域分一杯羹。最近ML Commons发布的AI推理竞赛成绩单显示,多家公司和创新团队正通过独特的技术路径,对英伟达的霸主地位发起挑战。

据ITBEAR了解,新一轮的MLPerf Inference v4.1竞赛吸引了包括AMD、谷歌、UntetherAI以及英伟达等多家技术巨头和新兴企业参与。在备受关注的封闭数据中心类别中,英伟达的Blackwell芯片在LLM问答任务上展现了卓越性能,比先前的芯片性能提升了2.5倍。然而,其他参赛者也表现出强劲实力,不容忽视。

UntetherAI凭借其speedAI240预览芯片在图像识别任务中与英伟达的H200芯片性能相当,展现了其内存内计算技术的潜力。该技术通过减少数据传输时间和资源消耗,显著提高了能效。在边缘计算类别中,UntetherAI的芯片更是以低能耗和快速处理速度脱颖而出。

此外,Cerebras和Furiosa两家公司虽然未参与此次MLPerf竞赛,但它们也分别推出了新的推理芯片,展示了不同的技术创新路径。Cerebras通过制造大型芯片来提升内存带宽,进而增强AI推理能力;而Furiosa则通过实现更通用的矩阵乘法原语,来提高AI推理的效率和灵活性。

这些新兴技术和产品的出现,不仅为AI推理市场注入了新的活力,也为用户提供了更多的选择。未来,随着技术的不断进步和市场竞争的加剧,我们有理由期待更多创新的AI推理解决方案涌现。

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  网站留言  |  RSS订阅  |  违规举报  |  开放转载  |  滚动资讯  |  English Version