5月25日,据媒体报道,由于发热严重,三星电子最新研发的高带宽内存HBM芯片在英伟达的测试中未能达标,因此无法被用于英伟达的AI处理器。
据了解,受影响的产品涉及三星的HBM3芯片,这是目前人工智能图形处理单元中最常用的第四代HBM标准。
资料显示,HBM3具有更高的带宽和更低的延迟,由于HBM3芯片堆叠在一起,通过短距离、高密度的互连通道进行数据传输,带宽可以达到数百GB/s的级别。
HBM3为加快内存和处理器之间的数据移动打开了大门,降低了发送和接收信号所需的功率,并提高了需要高数据吞吐量的系统性能。
不过,实现这一切都不容易,制造这项技术和充分利用它都将面临重大挑战,最大挑战就是发热控制,HBM结构会积聚许多热量,而DRAM与GPU封装在一起会加剧这种情况的发生,这就对散热冷却提出了更多的挑战,迫使制造者需要在时延与散热之间做出抉择,很显然,无论哪一种选择,都将从另一角度上推高总成本。