英伟达近日震撼发布了一款名为Dynamo的创新产品,它被赞誉为“AI工厂的操作系统”,为AI领域带来了一场革命性的变革。
Dynamo的核心定位为一个“分布式推理服务库”,旨在解决用户对于token需求高涨而生产不足的关键问题。这是一个面向开源社区的解决方案,致力于提升AI工厂的生产效率和灵活性。
英伟达CEO黄仁勋在发布会上通过一张直观的图表展示了Dynamo的强大能力。图表的X轴代表用户每秒所需的Token数,而Y轴则代表AI工厂每秒能生产的Token数。通过这张图表,观众可以清晰地看到Dynamo如何显著提升了AI工厂的生产效率。
更令人瞩目的是,Dynamo与英伟达最新的Grace Blackwell NVLink72超级芯片相结合,实现了前所未有的性能突破。相较于上一代Hopper芯片,Blackwell在Dynamo的加持下实现了25倍的性能提升。这一数据无疑为AI工厂的建设者提供了强大的技术支持和信心。
在推理模型方面,Blackwell的性能优势更加显著,相较于Hopper芯片,其性能提升了高达40倍。这一数据无疑将推动AI推理领域的发展,为更多应用场景提供高效、精准的解决方案。
发布会上,黄仁勋还幽默地表示,有了Dynamo和Blackwell这样的先进技术加持,搭建AI工厂的厂商将能够享受到“买得越多、省得越多”的实惠。这无疑为AI工厂的建设者提供了更多的经济激励和信心,也将进一步推动AI产业的发展。