【ITBEAR】8月18日消息, 半导体公司NEO Semiconductor近日宣布推出3D X-AI芯片技术,被设计用于取代高带宽内存(HBM)中的现有DRAM芯片,以提升人工智能处理性能并显著降低能耗。
3D X-AI芯片集成了8000个神经元电路,这些电路直接在3D DRAM中执行AI处理任务,实现了AI性能加速达到100倍。
与此同时,由于大幅减少了数据传输需求,该芯片的功耗降低了99%,有效降低了数据总线的功耗和发热问题。
NEO Semiconductor的这一创新还带来了8倍的内存密度,其3D X-AI芯片包含300个DRAM层,支持运行更大规模的AI模型。
该公司此前已宣布全球首款3D DRAM技术,而3D X-AI芯片则是在此基础上的进一步创新,通过类似HBM的堆叠封装,实现了每芯片高达10 TB/s的AI处理吞吐量。
NEO Semiconductor创始人兼首席执行官Andy Hsu指出,当前AI芯片架构中数据存储与处理的分离导致了性能瓶颈和高功耗问题。
3D X-AI芯片通过在每个HBM芯片中执行AI处理,显著减少了HBM和GPU之间传输的数据量,从而提高性能并降低功耗。
行业分析师Jay Kramer认为,3D X-AI技术的应用将加速新兴AI用例的开发,并推动新用例的创造,为AI应用创新开启新时代。