AI加速器到底怎么工作：核心、集群模块与内存

SiFive做了多年RISC-V CPU核心，客户拿它去搭自家的AI芯片。现在SiFive直接卖整套加速器设计。据The Register报道，每个Intelligence XM集群把四个X系列RISC-V CPU核心和自研矩阵运算引擎放在一起。

这是一次转向。谷歌的张量处理单元早就用SiFive的X280核心给矩阵乘法单元喂数据。SiFive英国的John Ronco告诉The Register，Tenstorrent的Blackhole加速器里的CPU核心也来自他们的设计。区别在于，SiFive这次拿出的是自己的矩阵引擎，不再把核心挂到第三方的引擎上。

数字说明了什么，又没说明什么

每个集群通过一致性集线器接口支持最高1TB/sec的内存带宽，预计每吉赫兹可提供最高16 TOPS的INT8或8 teraFLOPS的BF16。为什么按吉赫兹来算？因为集群不是一颗芯片。性能取决于客户在裸片上放多少个集群、怎么连线、旁边还放了什么，以及最终芯片的时钟频率有多高。

Ronco预计多数设计会用四到八个集群。按1GHz算，就是4到8TB/sec的峰值内存带宽和32到64 teraFLOPS的BF16。SiFive的产品幻灯片显示，512个集群也有可能。按1GHz算，那大约是四petaFLOPS的BF16，高于Nvidia给顶级Blackwell GPU标出的2.5 petaFLOPS。作为对比，Nvidia H100提供近一petaFLOPS的稠密BF16。

问题出在物理上。让512个集群都跑在1GHz，又不撞上散热或功耗上限，目前还没有答案。Ronco不愿说这一设计能扩展到什么程度。他还预计这些集群不会广泛用于AI训练。SiFive表示将发布SiFive Kernel Library的开源参考实现。

内存带宽是反复出现的瓶颈

加速器之所以这样设计，是因为推理受内存限制，解码阶段尤其明显。d-Matrix在Hot Chips 2026上把问题说得很直白：64个用户、1M上下文，可能意味着大约935GB的KV cache。它的Raptor设计把台积电N4逻辑裸片堆在3D DRAM上，采用36微米面对面堆叠，每卡32GB，一个72卡机架面向前沿模型。

Rebellions在Hot Chips 2025上展示了另一种做法。REBEL-Quad在一块三星SF4X与CoWoS-S封装上放入四个计算ASIC和四个HBM3E位点，提供144GB内存，chiplet互连用的是UCIe-A。ServeTheHome看到它在开发板上跑Llama 3.3 70B，平均每个输出token耗时35.5毫秒。

供应商、封装与上游挤压

这些东西没有封装材料都出不了货。Tom's Hardware在2026年3月报道，Nittobo控制着全球T-glass供应的大约90%。T-glass是用于IC基板芯层的低CTE玻璃布。价格已上涨20%到30%，覆铜板的交期也从正常的8到10周拉长到20周以上。Nittobo正在把福岛工厂的产能提高到三倍，但新供应要到2027年年中才能进入市场。美国银行估计，电子材料部门的销售额将从2025年的409亿日元几乎翻倍，到2028年3月达到877亿日元。

政策层面同样纠缠不清。据报道，台积电在2024年10月切断了中国设计公司Sophgo，此前有客户订购了一款类似华为Ascend 910B的芯片。Sophgo否认与华为有任何关系，并表示已向台积电提交了调查报告。