【ITBEAR科技资讯】3月25日消息,近日英伟达宣布将从9月开始大规模采购12层HBM3E内存,这项重要合作将由三星电子独家承担供货任务。这一消息在科技界引起了广泛关注,被视为英伟达进一步加强其AI计算能力的关键步骤。
在今年的GTC 2024大会上,英伟达不仅展示了其最新的B200和GB200系列芯片,还由公司CEO黄仁勋亲自在三星电子的12层HBM3E实物产品上留下了“黄仁勋认证(JENSEN APPROVED)”的签名,足以看出英伟达对这款内存产品的高度认可。
然而,并非所有内存制造商都能跟上这一技术趋势。SK海力士就因部分工程问题,未能及时推出12层HBM3E产品。但该公司并未放弃,计划从本月末开始批量生产8层HBM3E产品,以期在内存市场保持竞争力。
据ITBEAR科技资讯了解,今年2月27日,三星电子曾官宣成功开发出业界首款36GB 12H(12层堆叠)HBM3E DRAM内存。这款内存产品具有高达1280GB/s的带宽和迄今为止最大的36GB容量,与8层堆叠的HBM3 8H相比,在带宽和容量上提升超过50%。更与8层堆叠相比,其AI训练速度平均提高34%,同时推理服务用户数量也可增加超过11.5倍。这无疑为英伟达等需要大量内存和计算能力的公司提供了强有力的支持。
英伟达的B200芯片拥有高达2080亿个晶体管,采用台积电4NP工艺制程,支持多达10万亿个参数的AI大模型,单个GPU即可提供20 petaflops的AI性能。结合三星电子的12层HBM3E内存,英伟达有望进一步巩固其在AI领域的领先地位。