在数字技术的浪潮中，阿里云与钛媒体携手推出的《云栖战略参考》揭示了技术前沿与行业实践的深度交融。其中，端侧与云侧大模型的协同成为了一个备受瞩目的焦点，为硬件制造商和阿里云开辟了新的机遇。
历史表明，每一次技术的飞跃都深刻改变了终端设备的软硬件生态。从机械驱动的织布机到电力驱动的电话，再到算力驱动的电脑，大模型同样被寄予厚望，将引领下一场技术革命。
大模型对智能终端的影响是深远的，加速了数字与物理世界的融合。它们使终端能够更深入地理解自然语言，具备更强大的智能分析和决策能力，根据用户的偏好和习惯，提供个性化的服务体验。
然而，挑战也随之而来。端侧需要在有限的资源下尽可能展现大模型的能力，但千亿甚至万亿参数的大模型所需的算力、存储和能耗，对端侧芯片来说是一个巨大的考验。端侧用户还追求高性能、低时延和数据隐私保护。
目前，1B模型是端侧应用的主力军，能够处理文本生成、语音识别等轻量级任务；3B模型在高端移动设备上应用较多，能完成更复杂的任务；而7B模型被认为是“黄金尺寸”，能够胜任长篇创作、多模态任务等高精度工作，但已接近端侧设备的承载极限。更大参数的模型，如13B及以上的百亿参数模型，则需要通过模型压缩技术和专用硬件加速，在高端智能设备上部署。
在这种背景下，云侧部署大模型与端侧应用大模型的结合，成为了平衡性能、成本、功耗、隐私和速度的最佳选择。端侧大模型方便处理本地用户数据，提供个性化服务；而云侧基础大模型参数量更大，能力更广，能应对更复杂的问题。
极客公园创始人张鹏与优必选科技副总裁庞建新、OPPO AI技术规划总监陈晓春、北科瑞声创始人刘轶博士，就大模型如何重塑智能终端进行了深入探讨。
庞建新表示，在大模型出现之前，机器人领域面临多模感知和任务决策等挑战。大模型不仅解决了多模感知问题，还实现了知识融合，提高了决策能力。通过大模型，机器人可以根据环境知识和逻辑，进行任务规划、决策和编排。
陈晓春介绍，OPPO在2024年成立AI中心，致力于将大模型应用于智能手机。端侧AI场景的强大算力和本地化部署，使AIGC的响应时间大幅提升，消除了用户的等待感。大模型与手机原生应用的结合，使手机更加智能，解决了用户时间碎片化的问题。
刘轶指出，语音交互近年来经历了两次重大变化，第一次是Siri的推出，第二次是GPT-4o的发布。GPT-4o让机器实现了低延迟、高理解力的语音交互，甚至能在设备上出现私有化的个人助理。大模型简化了技术栈，开发者不再需要从头开始建立声学、语言模型，而是基于开源模型进行优化。
在端侧实践方面，庞建新表示，机器人需要端侧模型来处理移动、操作和人机交互等任务。特别是与控制紧密结合的移动能力和操作能力，以及需要低延迟的人机交互任务，都需要端侧模型的支持。
陈晓春认为，手机作为人机交互最多的设备，每天亮屏时间超过6小时，且几乎一直在线。因此，在考虑模型端侧化时，需要关注对延迟敏感、高隐私和成本功耗平衡的场景。目前，1B和7B参数的模型在端侧应用较广，但更大参数的模型则需要在云平台进行量化、蒸馏等处理。
刘轶表示，将语音识别和大模型应用到端侧面临很多技术挑战。目前，7B参数模型在端侧已是极限，用户体验不佳。因此，大模型在端侧的落地需要结合传统知识处理方法，如知识图谱、增强搜索等。
对于端云协同，庞建新强调，服务机器人需要主动感知和交互，这需要在本地处理大量数据，同时依赖云端进行知识推理。未来，端侧、边缘侧和云侧模型将融合，共同完成机器人的任务。
陈晓春表示，OPPO与阿里云在大模型领域有深入合作。大模型时代到来后，人机交互将出现革命性改变，这依赖于多模态大模型和AI Agent的能力。这些能力一部分可以在端侧实现，但更多需要依靠云端模型。
刘轶认为，阿里云提供的通义大模型底座需要各行业从业者共同建设面向各自领域的垂直大模型。同时，硬件厂商和阿里云在建立低算力平台与云端处理之间的良好链路方面存在巨大机遇。
在端侧AI应用的算力引擎方面，庞建新表示，与阿里云的合作解决了开源大模型根据场景调整的问题，包括端侧部署和云端协同。未来，端侧、边缘侧和云侧模型将共同完成机器人的主动感知、任务执行和交互。
陈晓春强调，OPPO与阿里云在算力、模型技术和联合研发项目上保持紧密合作。大模型时代将带来人机交互的革命性改变，这依赖于多模态大模型和AI Agent的能力。
刘轶认为，阿里云与硬件厂商在建立低算力平台与云端处理之间的链路方面存在巨大机遇。通过参考OpenAI的成功经验，阿里云与各行业从业者共同建设面向各自领域的垂直大模型，将推动大模型在端侧的落地。
