英伟达推NVHBM内存技术提升带宽30%
英伟达扩展NVLink Fusion推出NVHBM,将内存控制器集成至HBM基座。该技术提供更高带宽与能效,亚马逊Annapurna Labs将率先采用。
开发者需关注该标准对定制AI芯片集成的简化作用,评估其在降低工程复杂度及提升Trainium等芯片性能方面的潜在价值。
- NVHBM相比标准HBM4E内存带宽提升30%,功耗降低15%
- 通过集成控制器释放XPU计算晶片上多达25%的面积
- 亚马逊Annapurna Labs将在下一代Trainium4芯片中支持该技术