在CES 2025盛会上，NVIDIA宣布了一项重大突破，为PC开发者和发烧友带来全新的AI体验。该公司推出了NVIDIA NIM™微服务和AI Blueprint，旨在帮助用户在个人电脑上构建AI智能体和创意工作流。
NVIDIA此次发布的亮点之一，是其能够在NVIDIA RTX™ AI PC上本地运行的基础模型。这些模型通过全新GeForce RTX™ 50系列GPU加速，提供高达2375 AI TOPS和32GB显存的强劲性能。RTX 50系列GPU基于NVIDIA Blackwell架构，是首批支持FP4计算精度的消费级GPU。与前代产品相比，其AI推理性能提升了2倍，使得生成式AI模型能够以更小的显存占用空间在本地运行。
长期以来，GeForce™一直是AI开发者的得力助手。早在2012年，首个由GPU加速的深度学习网络AlexNet就是在GeForce GTX 580上训练的。而在去年的AI研究论文中，超过30%都提及了对GeForce RTX的使用。现在，借助生成式AI和RTX AI PC，任何人都有机会成为开发者。
NVIDIA NIM微服务通过简单的图形用户界面（GUI），使得获取和部署最新的生成式AI模型变得轻而易举。借助新一代低代码和无代码工具，如AnythingLLM、ComfyUI和LangFlow，发烧友可以在复杂的工作流中轻松使用AI模型。这些微服务为数字人、内容创作等应用提供了易于使用的预配置参考工作流。
NVIDIA还宣布了一系列来自顶尖模型开发者的适用于RTX AI PC的NIM微服务，包括Black Forest Labs、meta、Mistral和Stability AI等。这些服务涵盖了从大语言模型（LLM）到视觉语言模型、图像生成、语音、检索增强生成（RAG）的嵌入模型、PDF提取和计算机视觉等多个应用场景。
Black Forest Labs的首席执行官Robin Rombach表示：“支持FP4计算精度的GeForce RTX 50系列GPU，将使一大批此前仅适用于大型数据中心的模型得以在PC上运行。通过将Flux打造成NVIDIA NIM微服务，我们可以让更多的用户以更快的速度部署和体验AI，同时提供超乎想象的性能。”
NVIDIA还推出了Llama Nemotron，这是一系列开放许可的基础模型，能够在各类代理式任务中提供极高的精度。Llama Nemotron Nano模型将作为面向RTX AI PC和工作站的NIM微服务提供，在指令遵循、工具调用、聊天、代码和数学等代理式AI任务方面表现出色。
微软副总裁、Windows业务负责人Pavan Davuluri也对此表示支持：“AI正在快速驱动Windows 11 PC的创新，适用于Linux的Windows子系统（WSL）和Windows Copilot Runtime为Windows 11上的AI开发提供了出色的跨平台环境。NVIDIA NIM微服务为Windows PC提供优化，为开发者和发烧友提供了可立即集成到其Windows应用中的AI模型，从而进一步加速了Windows用户的AI功能部署。”
运行在RTX AI PC上的NIM微服务将兼容先进的AI开发和智能体框架，包括AI Toolkit for VSCode、AnythingLLM、ComfyUI、CrewAI、Flowise AI、LangChain、LangFlow和LM Studio等。开发者可以通过行业标准端点，将基于这些框架构建的应用和工作流连接到运行NIM微服务的AI模型，无论在云端、数据中心、工作站还是PC上，都可以通过统一的接口使用最新技术。
为了向RTX发烧友和开发者展示使用NIM微服务构建AI智能体和助手的方法，NVIDIA首次公开了Project R2X。这是一款具有视觉能力的PC虚拟形象，可以让用户需要的信息触手可及，协助用户使用桌面应用、进行视频会议、阅读和总结文档等。该虚拟形象采用全新生成式AI算法NVIDIA RTX Neural Faces渲染而成，并通过基于扩散原理的全新NVIDIA Audio2Face™-3D模型驱动动画。
NVIDIA NIM微服务和AI Blueprint将从2月起开始提供，首发支持的硬件包括GeForce RTX 50系列、GeForce RTX 4090和4080以及NVIDIA RTX 6000和5000 GPU。未来，还将陆续提供对其他GPU的支持。宏碁、华硕、戴尔、惠普、联想、微星和雷蛇将推出支持NIM的RTX AI PC。
