AMD Instinct MI300数据中心APU：13个芯片，1460亿晶体管

AMD在2023年国际消费电子展上发布了下一代Instinct MI300加速器。

毫无疑问，Instinct MI300是一个改变game规则的设计-数据中心APU融合了总共13个小芯片，其中许多是3D堆叠的，以创建一个具有24个Zen 4 CPU核心的芯片，这些核心融合了CDNA 3图形引擎和8个HBM3堆叠。总的来说，该芯片拥有1460亿个晶体管，是AMD投入生产的最大芯片。

MI300拥有1460亿个晶体管，很容易超过Intel的1000亿晶体管Ponte Vecchio，后者与128GB的HBM3内存捆绑在一起。由于芯片外表光鲜亮丽，所以很难拍照，但你可以清楚地看到中央芯片侧面的八堆HBM3。在这些HBM堆叠之间放置少量结构硅，以确保冷却溶液在封装顶部扭转时的稳定性。

该芯片的计算部分由9个5nm的小芯片组成，这些小芯片要么是CPU，要么是GPU内核，但AMD没有向我们提供每个小芯片的具体数量。Zen 4核心通常部署为八个核心裸片，因此我们可以考虑三个CPU裸片和六个GPU裸片。GPU芯片使用AMD的CDNA 3架构，这是AMD数据中心专用图形架构的第三次修订。AMD尚未指定CU计数。

这九个裸片是3D堆叠在四个6nm基础裸片上的，这些裸片不仅仅是无源插入器-我们被告知这些裸片是有源的，可以处理I/O和各种其他功能。AMD代表向我们展示了另一个MI300样品，该样品用砂带打磨机打磨顶部模具，以揭示四个有源插入器模具的结构。在那里，我们可以清楚地看到不仅在I/O瓦片之间，而且在与HBM3堆栈接口的存储器控制器之间实现通信的结构。

3D设计允许CPU、GPU和内存管芯之间实现难以置信的数据吞吐量，同时允许CPU和GPU同时处理内存中的相同数据（零拷贝），这节省了电力，提高了性能，并简化了编程。看看这个设备是否可以在没有标准DRAM的情况下使用会很有趣，就像我们看到的Intel的Xeon Max CPU也采用封装HBM一样。

AMD的代表对细节含糊其辞，因此尚不清楚AMD是否使用标准TSV方法将上下管芯熔合在一起，或者是否使用更先进的混合键合方法。

AMD声称，MI300的AI性能是Instinct MI250的八倍，每瓦性能是其五倍（采用稀疏FP8测量）。AMD还表示，它可以将ChatGPT和DALL-E等超大型人工智能模型的训练时间从数月减少到数周，从而节省数百万美元的电力。

目前的一代Instinct MI250为世界上第一台exascale机器Frontier超级计算机提供动力，Instinct MI300将为即将推出的两台exasclop El Capitan超级计算机提供电力。AMD告诉我们，这些halo MI300芯片将非常昂贵，而且相对罕见——这些芯片不是大容量产品，因此不会像EPYC热那亚数据中心CPU那样广泛部署。然而，该技术将过滤出不同形状因素的多种变体。

该芯片还将与英伟达的Grace Hopper超级芯片竞争，后者是Hopper GPU和Grace CPU在同一板上的组合。这些芯片预计将于今年到货。基于Neoverse的Grace CPU支持Arm v9指令集，系统配备了两个芯片，与英伟达新品牌的NVLink-C2C互连技术融合在一起。AMD的方法旨在提供卓越的吞吐量和能效，因为将这些设备组合到单个封装中通常比连接到两个单独的设备时实现更高的单元吞吐量。

MI300还将与英特尔的Falcon Shores竞争，该芯片将采用不同数量的计算区块，包括x86内核、GPU内核和内存，配置数量惊人，但这些芯片预计要到2024年才能上市。

在这里，我们可以看到MI300封装的底部，以及用于LGA安装系统的接触垫。AMD没有透露有关插槽机制的细节，但我们肯定会很快了解更多信息——该芯片目前在AMD的实验室中，该公司预计将在2023年下半年交付Instinct MI300。埃尔卡皮坦超级计算机将于2023年部署，成为世界上速度最快的超级计算机。目前正在按计划进行。