跳到正文
IT之家·· 3 小时前AI 评分36

前英特尔 CEO 基辛格称 HBM 是“糟糕的内存”

AI 导读

前英特尔首席执行官帕特·基辛格在 a16Z 专访中批评高带宽内存(HBM)为“糟糕的内存”,指出其位密度低、带宽受限且功耗散热问题突出,认为对 AI 这类内存计算密集型负载是灾难性的。他提到 HBM3/3E 总线宽度为 1,024 位、HBM4 提升至 2,048 位,韩国科学技术院分析显示 HBM 功耗超过约 30 瓦时,物理层接口自身发热会成为内存热应力主要来源。

正文

IT之家 10 月 14 日消息,科技媒体 Wccftech 昨日(10 月 13 日)发布博文,报道称前英特尔首席执行官帕特 · 基辛格(Pat Gelsinger)再次批评高带宽内存(HBM)存在位密度低、散热与“海岸线带宽”受限等问题,称其为“糟糕的内存”。

IT之家注:海岸线带宽(Shoreline Bandwidth)是指计算芯片边缘可用于连接 HBM 的物理周长资源。由于 HBM 接口需要占用芯片边缘大量面积,可布置的内存堆叠数量受到限制,从而形成带宽扩展瓶颈。

基辛格在接受 a16Z 的专访时,批评高带宽内存 (HBM) 解决方案:

HBM 内存简直糟糕透了。这只是我们目前能实现的最佳方案…… 但它真的太差劲了。你知道,它的位密度非常低。带宽受限,功耗、散热等等问题也让我很头疼。DRAM 内存不喜欢高温。所有数据都集中在一个地方…… 对于人工智能这种内存计算密集型工作负载来说,HBM 内存简直是灾难性的。

基辛格指出,HBM 的位密度较低,且数据集中布局会带来功耗与散热压力,对 AI 这类内存与计算高度耦合的工作负载而言,该架构存在明显短板。

散热方面,HBM3/3E 总线宽度为 1,024 位,HBM4 提升至 2,048 位,需要大量并行连接与微凸点。韩国科学技术院的分析显示,当 HBM 功耗超过约 30 瓦时,GPU 或 ASIC 与 HBM 堆栈之间的物理层接口(PHY)自身发热会成为内存热应力的主要来源。

位密度方面,HBM 堆叠中的 DRAM 裸片需通过大量硅通孔(TSV)连接。该结构减少单颗裸片可容纳的存储单元数量,导致单颗 DRAM 裸片位密度较低;但整个堆叠在每平方毫米层面仍可提供更高累计密度。

图源:WikiMedia

来源:IT之家 · ithome.com