闪迪公司即将在今年一季度完成从西部数据的拆分,并踏上独立上市的新征程。近日,在面向投资者的活动中,闪迪揭开了其前沿技术——高带宽闪存(HBF)的神秘面纱,这一技术有望重塑AI推理GPU存储生态。
HBF作为闪迪的带宽优化NAND产品,其设计理念深受HBM启发,采用了类似的架构特点,如大量的I/O引脚和多层堆叠,并共享了HBM的电气接口,实现了带宽的匹配。然而,由于存储介质从DRAM转变为NAND,HBF对协议进行了相应的调整,因此与HBM并不完全兼容。
在HBF的内部结构中,多层核心裸晶通过微凸块和硅通孔技术紧密堆叠,底部则设置了负责与计算芯片通信的逻辑裸晶。闪迪自豪地宣布,其HBF技术能够实现极低的裸晶翘曲,目前最高已实现16层堆叠,单个堆栈容量惊人地达到了512GB。
这一突破性的技术意味着,在2.5D集成下,仅8个HBF堆栈的单个AI GPU就能拥有4096GB(即4TB)的存储空间,这一容量是纯HBM方案的20倍以上。如此庞大的存储空间,足以满足参数约1.8T的前沿大型语言模型(LLM)的推理运行需求。
更令人瞩目的是,由于HBF与HBM在技术路线和性能参数上的相似性,AI GPU可以灵活配置这两种存储,形成如3072GB HBF + 48GB HBM等高度自定义的组合,为用户提供前所未有的存储灵活性。
除了AI推理GPU领域,HBF技术同样有望在边缘AI领域大放异彩。单颗HBF就能容纳完整的64B模型,这一特性无疑将极大地推动边缘AI的发展。
闪迪的HBF高带宽闪存开发并非孤军奋战,它得到了众多主要AI企业的鼎力支持。闪迪计划推动构建HBF开放标准生态系统,以实现无缝的系统集成,进一步加速技术的普及和应用。
对于未来的HBF产品,闪迪早已有了明确的规划。他们致力于在第三代产品中实现2倍容量的提升、2倍读取带宽的增强,以及36%功耗的降低,持续引领存储技术的革新。