赛轮思(Cerence)与英伟达宣布深化合作,共同推动其CaLLM系列语言模型的功能升级。此次合作不仅涉及基于云的赛轮思汽车大语言模型(CaLLM),还包括CaLLM Edge嵌入式小语言模型。
在这一合作框架下,CaLLM将借助NVIDIA AI Enterprise这一端到端云原生软件平台的力量,而CaLLM Edge的某些功能则将得到NVIDIA DRIVE AGX Orin的支持。这一强强联合,无疑将为汽车行业带来更为先进、高效的语言模型解决方案。
具体而言,赛轮思AI通过整合NVIDIA AI Enterprise软件平台中的NVIDIA TensorRT-LLM和NVIDIA NeMo,显著加速了CaLLM的开发与部署进程。NVIDIA NeMo作为一个全面的框架,为生成式AI应用的构建、定制及部署提供了极大的便利。
得益于此次合作,赛轮思AI对其CaLLM系列模型进行了深度优化与定制,旨在:
在NVIDIA加速计算和SoC技术的加持下,为车载助手提供更为迅捷的性能表现。
开发了针对汽车环境优化的NVIDIA NeMo Guardrails实现,这一创新技术确保了Cerence驱动的系统能够精准捕捉并处理车载交互中的每一个细节。
通过NVIDIA DRIVE AGX Orin在CaLLM Edge上实施并优化了代理架构,这一举措为下一代车载用户体验的革新奠定了坚实基础。