AI加速器为什么越来越难造：T玻璃、HBM与3D堆叠

关于AI硬件的报道，大多从英伟达和台积电开始，也在它们那里结束。Tom's Hardware在3月9日报道说，瓶颈已经下移了一层，落进一种大多数人从未听说过的材料里。T玻璃是一种低热膨胀系数的玻璃布，用在IC基板的有机芯层中。基板是芯片与印刷电路板之间的互连层。

T玻璃到底做什么

T玻璃让尺寸大、发热高的芯片封装保持形状稳定。AI处理器越做越大，运行温度也越来越高。让它们保持平整，如今已是制造问题，而不是理论问题。另一种玻璃纤维E玻璃更便宜，但主要用于微控制器和老款手机处理器这类低端芯片。对于大规模2.5D和3D封装，T玻璃是首选。

Nittobo在这一市场占主导地位。它和其他任何公司都无法一夜之间建起新的产线。这种材料需要专用的电熔炉，炉温在1,600到1,700°C。工艺包括熔化富硅玻璃、拉成纱线、再织成超薄布。要扩大规模，需要多年的投资和技术积累。

Nittobo正在把日本福岛工厂的产能提高到原来的三倍，但新增供应要到2027年年中才能进入市场。在此期间，价格已经上涨20%到30%。铜箔层压板等下游材料的交期，从正常的8到10周拉长到20周以上。元大证券分析师Bill Ho对Tom's Hardware说：「T玻璃供应现在更紧张，供应商已经不再给出交期了。」

跟踪IC基板供应链的Yole Group分析师Bilal Hachemi说，T玻璃「具有特定的介电常数和热膨胀系数，更适合AI芯片，尤其是对有机芯层而言」。他还指出，IC基板行业历来利润微薄。因此即便需求只是温和上升，也可能引发短缺。他说：「建层材料、ABF材料或T玻璃的需求只要一增加，就可能造成潜在短缺，因为这违背了这个行业的基本规律。」

让这轮紧张格外突出的，是推动需求的一方。超大规模云厂商订购的芯片封装越来越大，每一代用的中介层更大，基板也更复杂。据Tom's Hardware援引的英伟达数据，中介层面积从Hopper架构的814mm²增长到Blackwell的1,700mm²，增幅109%。即将推出的Rubin和Feynman世代还会继续放大。

封装更大，用料更多

美国银行估计，Nittobo电子材料部门的销售额将从2025年的409亿日元（2.66亿美元）增长到2028年3月的877亿日元，接近翻倍。营业利润率正逼近48%。美国银行研究分析师Takashi Enomoto说，随着先进器件逐步弃用E玻璃，超薄T玻璃的需求也在上升。

争夺配额的行动已经开始。Hachemi把英伟达直接联系上游材料供应商形容为前所未有：「我们第一次看到英伟达这个终端客户主动去找上游材料供应商，锁定产能，确保自己能拿到货。」令人担心的是，一旦英伟达锁定了自己的份额，其他芯片买家就只能去抢剩下的部分。

Nittobo也没有坐等。除了福岛扩产，它还在把台湾工厂的原纱产能翻倍，再把纱线运回日本织成布。它还和南亚塑胶达成合作，把一部分织造外包出去。这恰恰说明市场有多紧：Nittobo要和自己的最大竞争对手之一合作，才能缓解瓶颈。到2027年，Nittobo大约20%的玻璃布预计将由南亚织造。

内存墙，以及堆叠给出的答案

封装材料是一重约束。内存带宽是另一重，今年几场芯片会议都在争论这件事。ServeTheHome对d-Matrix在Hot Chips 2026上演讲的报道把问题讲得很清楚。模型权重一直在涨，KV缓存则随上下文长度乘以批大小而增长。64个用户在100万上下文下，KV缓存大约就是960亿字节（约935 GB）。

SRAM能达到带宽目标，但规模太小。一对Corsair SRAM加速卡在约1纳秒延迟下能跑到大约300 TB/s，可容量只有约4 GB。HBM解决了容量那一半，却在带宽上吃力。d-Matrix给出的HBM4封装实际上限约为20 TB/s。这么高的带宽要付出功耗代价：按2.4 pJ/bit计算，让100 TB/s通过HBM，在计入任何互连流量之前就要吃掉约1.92 kW。

d-Matrix的办法是把计算单元直接堆在DRAM裸片上方。一颗台积电N4逻辑裸片通过36 um面对面的方式叠在3D DRAM裸片上。公司称这一工艺已经成熟、成本低、可量产且良率高。散热挑战是实打实的。d-Matrix说，1-Hi逻辑在上的堆叠只要功耗密度不超过0.5 W/mm²，就能用液冷压住，并把DRAM保持在100 C以下。垂直3D IO的能耗约为0.3到0.4 pJ，比HBM低大约10倍。

工程上也有取舍。每个张量引擎每次访问需要128B的flit，而每通道3个bank时单次访问只返回96B，这就浪费了大约33%的带宽。d-Matrix的解法叫stream blocking，把一次不完整的32B访问分摊到三个flit上，多取的数据就降到零。单卡320亿字节（32GB）的容量下，72卡纵向扩展可以装下一个前沿模型，比如100万上下文下的Kimi K3。

微软和Rebellions指向同一个趋势

微软的Maia 200在Hot Chips 2026上亮相，ServeTheHome做了现场报道。这是一颗3nm芯片，1400亿晶体管，6组HBM3e堆栈，HBM带宽7TB/秒，TDP 750瓦，FP4性能1万TFLOPS。SoC裸片面积820mm²。微软正在Azure数据中心内部署它，网络设计只做纵向扩展：128个机架、6000颗芯片，通过tier-0和tier-1交换机走统一以太网互联。注意力基准测试显示有效峰值为1.65 PFLOPS。集合通信基准测试在BF16 AllReduce下接近1.3TB/秒。

在Hot Chips 2025上，Rebellions展示了对同一个封装问题的另一种思路。REBEL-Quad用四个HBM3E位点提供1280亿字节（144GB）内存，并以UCIe作为芯粒互连。它基于三星SF4X和CoWoS-S，每个封装里有四个计算ASIC和四个集成硅电容。ServeTheHome指出它是一张双PCIe Gen5 x16卡。公司在开发板上跑了一场Llama 3.3 70B的现场演示，每个输出token平均耗时35.5毫秒。

学术界也在往前走。斯坦福、卡内基梅隆、宾夕法尼亚大学、MIT和SkyWater Technology报告了首颗在美国晶圆厂制造的单片3D芯片。他们在2025年12月第71届IEEE国际电子器件会议上做了展示。早期硬件测试显示，这颗原型比可比的2D芯片快大约四倍。对更高版本的模拟则指向AI负载最高十二倍的提升，其中包括源自Meta LLaMA的负载。主导这项工作的斯坦福教授Subhasish Mitra说，正是这样的突破，才能让行业拿到未来AI系统所需的1000倍硬件性能提升。

这些都不会按当前短缺要求的时间表到来。T玻璃的约束是一个以年计的问题。日后或许能缓解压力的堆叠与封装研究，大多还停留在演示文稿和开发板上。