在AI技术迅猛发展的浪潮中,DeepSeek的崛起无疑为全球AI产业注入了一针强心剂,极大地推动了AI应用的普及,特别是在国内市场,AI技术正以前所未有的速度融入各类产品中。
这一趋势意味着AI大语言模型不再局限于云端,而是开始深入我们的生活,走向边缘设备和端侧。IoT市场,作为边缘智能的典型代表,自然成为了这波边缘AI热潮的焦点之一。
随着AI技术的不断演进,IoT等边缘AI领域开始涉足更为复杂的算法,边缘AI推理需求也随之激增。这不仅对计算性能和算效比提出了更高的要求,同时也让数据安全问题日益凸显。从智慧城市、智慧工业到智能家居、智能穿戴乃至新零售,AI技术的广泛应用带来了全新的挑战。
就在昨天,Arm公司发布了全球首个专为物联网优化的边缘AI计算平台,该平台以全新的Cortex-A320 CPU和Arm Ethos-U85 NPU为核心,基于Armv9架构。这一平台并非CPU和AI加速器的简单堆砌,而是实现了CPU和NPU的深度融合,为用户提供了更为高效的解决方案。
Armv9架构的诸多优势特性首次在IoT市场落地,其在效率、性能和安全方面的提升正好满足了当前边缘AI的新需求。同时,Arm还将软件层的KleidiAI拓展到了IoT领域,进一步简化了边缘AI的开发流程。
Cortex-A320的推出,无疑为解决以IoT为代表的边缘AI领域的需求痛点提供了有力武器。那么,Cortex-A320究竟如何解决这些痛点?Armv9带来了哪些关键技术升级?软件层面的新进展又如何加速IoT领域的技术创新和应用落地?让我们一探究竟。
近年来,随着AI技术的广泛应用和计算需求的快速增长,越来越多的AI工作负载从数据中心和云端转向边缘侧进行处理。这无疑给人们的生产和生活带来了巨大便利,但同时也带来了计算性能瓶颈和安全挑战等问题。
在工业质检领域,AI视觉质检系统每降低1%的产线漏检率,都可能意味着千万级的成本节约。但在复杂的工厂条件下实现这一小目标,技术难度可想而知。在汽车行业,自动驾驶与驾驶员的生命安全息息相关,激光雷达、摄像头等传感器的数据需要在极短的时间内融合并被模型处理。而在智慧医疗领域,边缘AI系统通过实时分析监护仪数据预警病症早期症状,这一过程的高效与精准高度依赖于底层芯片的性能表现。
未来,随着AI高清视频实时分析、AI工业设备故障检测等复杂任务需求的不断增加,边缘AI计算能力的重要性将更加凸显。IoT领域正呼唤从芯片架构到算法层的全面革新,以真正释放AI的潜力。
除了计算性能方面的挑战,边缘AI的发展同样带来了数据安全层面的风险。在边缘计算中,随着越来越多的边缘AI设备接入网络,数据在边缘设备和云端或其他边缘设备之间传输,容易受到网络攻击。因此,面对边缘AI的迅猛发展,边缘设备必须具备更强的推理能力和更安全的计算架构。
基于这样的行业背景,Arm推出了首款基于Armv9架构、专为边缘AI设计的Cortex-A CPU——Cortex-A320,以及结合了Cortex-A320和Ethos-U85的边缘AI计算平台。在AI计算性能和能效提升方面,Cortex-A320相比Cortex-A35有着高达10倍的AI计算性能提升,相比Cortex-A53也有6倍以上的提升。这对于增强边缘设备的推理能力至关重要。
以智能眼镜为例,相较于Cortex-M系列,Cortex-A320在内存寻址能力、整体性能以及安全防护上均实现了显著提升,能够轻松支撑起多种人机交互场景,特别是对视频流等视觉交互应用有着出色的支持。随着技术的不断进步,智能眼镜等边缘设备正逐步成为我们生活中的得力助手。
Cortex-A320与Ethos-U85 NPU组成的CPU+NPU协同计算架构,形成了完整的异构计算平台。基于异构计算能力,开发者可以在Cortex-A320上灵活有效地执行AI操作。这使得智能物联网与消费类电子生态系统能够在正确的时间、合适的地方运行最适合的工作负载。
在安全性方面,Armv9支持MTE、PAC、BTI以及S-EL2虚拟化等特性,为边缘设备提供端到端的安全防护。整体来看,Arm的Cortex-A320与Ethos-U85异构计算平台在硬件层面实实在在地帮助企业解决了性能、能效和安全方面的边缘AI新需求。
当然,Arm的完整解决方案不止于此。硬件是基础,软件是加速器,软硬件组合拳才能更高效地解决边缘AI痛点。此次Arm还同步将KleidiAI引入IoT领域,加速AI应用在边缘落地。完善的软件生态可以降低开发者门槛,优化算法和模型,使AI模型能在各种边缘设备上高效运行。
Arm Kleidi软件库最核心的作用就是帮助开发者让AI应用得到Arm CPU加速。开发者无需额外学习新工具和技能,也无需复杂的集成工作,IoT应用开发门槛和成本大幅降低。此次Arm Kleidi扩展至物联网领域,进一步加强了Arm在IoT AI领域的技术优势,吸引更多开发者和企业基于Arm架构开发IoT应用。