回首2023年科技产业最大的惊喜是生成式AI，在该技术的帮助下，人们可以用真正的自然语言与计算机进行交流。这一以前只能出现在科幻电影里的场景，仅在一年时间里，就走入人们日常生活。近日，高通技术公司公共关系副总裁Clare Conley撰文表示，生成式AI在几乎每个行业都是无可争议的变革性技术，2024年人们将继续感受到它带来的影响。高通正在积极地开发部署领先的边缘AI、高性能低功耗计算、以及5G等连接技术，为更多用户随时随地提供AI能力。
不过目前生成式AI的发展，尤其是广泛地普及应用，还有成本、隐私、时延等许多困难需要克服。将生成式AI从云端向终端侧转移，成为加速生成式AI普及的重要路线。在Clare Conley的文章中，高通技术公司高级副总裁兼技术、规划和边缘解决方案业务总经理马德嘉(Durga Malladi)表示：“随着生成式AI日益融入人们的生活，5G智能手机、PC、汽车甚至物联网设备等个人终端，将成为多模态生成式AI模型的中枢。”
此前不管是文本生成式AI ChatGPT，或者图片生成式AI Midjourney，主要通过云端向用户提供生成服务。这些云端生成式AI服务极度依赖GPU，而支持AI云端运算的GPU一直奇货可居，GPU的供应能力，成为制约生成式AI普及扩展的最大的阻力。而随着终端侧设备的AI计算能力的不断提升，发展终端侧生成式AI，能帮助AI产业突破眼前的这一困境。在5G手机、PC、智能汽车等终端侧运行生成式AI，能拓宽消费者和企业获取强大生成式AI能力的途径。马德嘉表示：“生成式AI从云端转向个人终端的转变，能为消费者和企业提供更关注隐私和更个性化的全新AI体验，并能为开发者降低云成本。随着终端侧运行多模态生成式AI大模型的能力不断提升，从云端向混合AI或终端侧AI的转变势不可挡。”
终端侧AI的性能，在2023年获得飞速的发展。以高通的移动平台为例，在2023年10月底举行的骁龙峰会中，高通发布第三代骁龙8 5G移动平台，该平台将智能手机的AI能力提升到全新水平，可在0.6秒内生成一张图片，可以运行超过100亿参数规模的生成式AI模型。由于该平台优异的表现，在人民网主办的第二十届人民匠心奖评选活动中，获评人民匠心技术奖。在PC方面，高通发布全新一代AI PC平台骁龙X Elite，可提供惊人的75TOPS算力，以及在笔记本电脑上运行超130亿参数的生成式AI大模型。随着5G智能手机、PC等终端侧AI性能的高速提升，2024年，生成式AI也将带领智能终端走向全新的篇章。
