【ITBEAR科技资讯】6月7日消息,在2024年台北国际电脑展上,边缘运算人工智能领域的佼佼者耐能(Kneron)带来了令人瞩目的新产品。耐能,这家由CEO刘峻诚和张懋中于2015年共同创立的公司,专注于为行业提供前沿的边缘AI技术。此次展会,耐能隆重推出了其下一代AI产品——KNEO 330服务器,以及装载了第三代NPU芯片KL830的PC设备。
据悉,耐能自创立以来就备受行业关注,其背后的投资者阵容亦十分强大,包括李嘉诚旗下的维港投资、高通、鸿海集团、阿里巴巴创业者基金、中华开发资本等。这些知名集团的支持无疑为耐能的发展注入了强大的动力。
据ITBEAR科技资讯了解,耐能CEO刘峻诚在发布会上强调,目前众多使用生成式AI的公司高度依赖微软、亚马逊等云服务巨头,并从英伟达或AMD等公司大量采购芯片。然而,出于对数据隐私和安全的担忧,许多企业可能不愿将核心数据交给外部公司处理。为此,耐能提供了一种替代方案,即利用其技术建设企业内部服务器,以构建专属的AI应用程序。
发布会上,耐能展示了两款新品。其中,KNEO 330服务器以其48TOPS的强大AI计算能力脱颖而出,最多可支持8个并发连接,同时支持LLM和Stable Diffusion技术。该服务器在低硬件条件下实现了与云端解决方案相当的RAG精度,为小型企业降低了30%~40%的整体AI成本。
另一款新品是搭载第三代NPU芯片KL830的PC设备。虽然具体细节尚未透露,但发布会上已使用惠普设备进行了实地演示。耐能表示,他们正与几家领先的PC OEM厂商紧密合作,这些厂商将成为其最新芯片的首批客户。
KL830芯片,作为一种神经处理单元(NPU),与CPU和GPU协同工作,以执行AI任务。它提供了高达10eTOPS@8bit的综合计算能力,而峰值功耗仅为2W,这使得它能够支持众多参数较低的大型语言模型。耐能还指出,KL830可通过USB AI加速棒使用,从而将各种设备,无论是宽带路由器、物联网摄像头还是传统电脑,转变为边缘AI设备。