Accélérateurs IA : le goulot d'étranglement du packaging que personne n'intègre dans les prix, et les startups qui parient contre le HBM
Une entreprise japonaise dont la plupart des exploitants de datacenters n'ont jamais entendu parler contrôle environ 90 % de l'offre mondiale d'un tissu de verre utilisé dans chaque boîtier de puce IA avancée. Sa prochaine ligne de production n'arrivera pas avant mi-2027.

Le T-glass de Nittobo est un tissu de verre à faible CTE, utilisé dans le cœur organique des substrats de circuits intégrés. C'est la couche d'interconnexion entre une puce et sa carte de circuit imprimé. Selon Tom's Hardware, l'entreprise détient environ 90 % de l'offre mondiale. La demande l'a largement dépassée. Les délais en aval pour les laminés cuivrés sont passés de 8 à 10 semaines en temps normal à plus de 20. Les prix ont augmenté de 20 à 30 %.
Ce chiffre compte plus qu'il n'y paraît. Chaque génération d'accélérateur IA embarque un interposeur plus grand et un substrat plus complexe, si bien que chaque puce consomme davantage de matière. Les données de Nvidia, citées par Tom's Hardware, situent la taille de l'interposeur à 814 mm² pour Hopper et à 1 700 mm² pour Blackwell, soit une hausse de 109 %. Rubin et Feynman montent encore d'un cran. L'offre ne peut pas répondre vite. Le T-glass exige des fours à fusion électrique tournant entre 1 600 et 1 700 °C, et Nittobo triple la capacité de son usine de Fukushima. La nouvelle production n'atteindra le marché qu'à la mi-2027.
Les analystes cités dans ce rapport décrivent un marché où la substitution est difficile. « Il n'est pas facile de remplacer le T-glass », a déclaré Bilal Hachemi, de Yole Group, à Tom's Hardware. Il a cité des valeurs précises de constante diélectrique et de CTE adaptées aux puces IA, en particulier au cœur organique. Bill Ho, analyste chez Yuanta, indique que les fournisseurs ne communiquent plus du tout de délais. Takashi Enomoto, de Bank of America, s'attend à ce que les ventes de matériaux électroniques de Nittobo soient quasiment multipliées par deux, passant de 40 900 000 000 ¥ (266 000 000 $) en 2025 à 87 700 000 000 ¥ d'ici mars 2028. Il anticipe des marges opérationnelles proches de 48 %.
Un détail ressort. Selon Hachemi, le fait que Nvidia s'adresse directement à un fournisseur de matériaux en amont était inédit dans cette partie de la chaîne. Si le plus gros acheteur verrouille d'abord les capacités, les autres négocient sur ce qui reste.
La bande passante mémoire est l'autre mur
Pendant que le packaging se tend, les concepteurs d'accélérateurs débattent de la mémoire. À Hot Chips 2026, d-Matrix a présenté Raptor, selon ServeTheHome. L'accélérateur empile une puce logique TSMC N4 au-dessus d'une puce DRAM 3D, avec un empilement face à face de 36 microns. L'argument : ni la SRAM ni le HBM ne suffisent seuls à l'inférence. La SRAM offre de la bande passante mais peu de capacité. Le HBM offre de la capacité mais bute sur la vitesse des broches, le nombre d'empilements et la surface disponible sur le boîtier. d-Matrix cite un plafond pratique d'environ 20 TB/s pour les boîtiers HBM4.
La bande passante a un coût énergétique. La note de ServeTheHome situe le HBM à 2,4 pJ/bit, ce qui signifie que 100 TB/s coûtent environ 1,92 kW avant le trafic de fabrication. L'IO vertical 3D se situe autour de 0,3 à 0,4 pJ, soit environ dix fois moins. C'est un trajet à l'échelle du millimètre plutôt qu'une route d'interposeur à l'échelle du centimètre.
Les chiffres de d-Matrix sont précis et peu spectaculaires. Chaque moteur tensoriel a besoin d'un flit de 128 000 000 000 octets par accès. Mais des banques de 32 000 000 000 octets réparties sur 256 canaux donnent 3 banques par canal après les réserves, soit 96 000 000 000 octets par accès. Deux accès rapportent 192 000 000 000 octets pour en livrer 128 000 000 000, ce qui gaspille environ 33 % de la bande passante près de 33 TB/s. La solution de l'entreprise, le stream blocking, partage un accès partiel entre trois flits. Ainsi, 384 000 000 000 octets en entrée correspondent à 384 000 000 000 octets en sortie, et la surlecture tombe à zéro. Avec 32 000 000 000 octets par carte, des poids en 4 bits et un cache KV en 8 bits, d-Matrix affirme qu'une montée en charge de 72 cartes peut héberger un modèle de frontière à 1 000 000 de tokens de contexte.
Chiplets et le virage des licences RISC-V
Les contraintes de packaging et les compromis mémoire poussent les fabricants vers d'autres stratégies d'intégration. Rebellions a présenté son REBEL-Quad à Hot Chips 2025, selon ServeTheHome. La carte compte quatre ASIC de calcul, quatre emplacements HBM3E pour 144 Go et UCIe-A comme interconnexion puce à puce, sur une base Samsung SF4X et CoWoS-S. Elle fonctionne en double PCIe Gen5 x16. L'entreprise a fait tourner Llama 3.3 70 000 000 000 sur une carte de développement, à une moyenne de 35,5 ms par token de sortie.
ServeTheHome note que ce choix du PCIe cadre mal avec le virage de Nvidia vers le Gen6. Le média a retenu la démonstration en direct comme le fait le plus significatif : une puce UCIe fonctionnelle en public, ce qui est assez rare pour être souligné. Côté calcul, SiFive est passé de la licence de cœurs CPU RISC-V intégrés dans le silicium IA d'autres entreprises à la vente de son propre design d'accélérateur. The Register rapportait le 19 septembre 2024 que les clusters Intelligence XM de SiFive associent quatre cœurs CPU Intelligence X à un moteur de calcul matriciel maison. Chaque cluster embarque jusqu'à 1 To/s de bande passante mémoire et jusqu'à 16 TOPS en INT8 ou 8 téraFLOPS en BF16 par gigahertz.
John Ronco, SVP et directeur général de SiFive pour le Royaume-Uni, a déclaré à The Register que certains clients veulent encore leur propre matériel, mais que d'autres préféraient une offre clé en main. Il s'attendait à ce que la plupart des puces construites sur ce design utilisent quatre à huit clusters. Il restait prudent sur la montée en échelle, même si la présentation de l'entreprise suggère que 512 clusters sont possibles. Pour situer, les meilleures puces Blackwell de Nvidia sont données pour 2,5 pétaFLOPS en BF16.
SiFive fournit déjà des designs RISC-V utilisés dans les unités de traitement tensoriel de Google et dans le Blackhole de Tenstorrent. Le PDG Patrick Little a affirmé dans un communiqué tout prêt que l'entreprise fournissait cinq des « Magnificent 7 ». The Register a noté que cette affirmation n'était probablement pas entièrement liée à l'IA.
Les sanctions redessinent la carte
Les contrôles à l'exportation redessinent aussi la chaîne d'approvisionnement. The Register rapportait le 28 octobre 2024 que TSMC aurait coupé les ponts avec le concepteur chinois Sophgo, soupçonné de chercher à fournir des composants à Huawei. Reuters, citant deux personnes proches du dossier, a identifié le client qui avait commandé une puce ressemblant à l'Ascend 910 000 000 000 de Huawei. Sophgo a nié toute relation commerciale directe ou indirecte avec Huawei et affirmé avoir soumis un rapport d'enquête détaillé à TSMC. Bitmain, associé à Sophgo, a qualifié les accusations de fausses et sans fondement.
The Register rappelle que le passé de Bitmain n'est pas irréprochable. En 2021, des procureurs ont perquisitionné ses bureaux à Taïwan et accusé deux entités affiliées d'avoir tenté de recruter illégalement des ingénieurs taïwanais. TSMC a cessé ses activités avec Huawei en 2020, sous le coup des règles américaines.
L'Ascend 910 000 000 000 de Huawei est donné pour 320 téraFLOPS en FP16 ou 640 téraFLOPS en Int8, soit à peu près au niveau de l'A100 de Nvidia, vieux de quatre ans, selon ce rapport. C'est plus lent que la frontière actuelle, mais disponible. La disponibilité est ce qui compte quand les plafonds à l'exportation continuent de se resserrer.
Sources
5- 01Shortages of crucial chip packaging material threatens AI accelerator supply chainsEN
- 02d-Matrix Raptor 3D-DRAM Accelerator for Generative Inference at Hot Chips 2026EN
- 03Rebellions REBEL-Quad UCIe and 144GB HBM3E Accelerator at Hot Chips 2025EN
- 04SiFive expands from RISC-V cores for AI chips to designing its own full-fat acceleratorEN
- 05TSMC reportedly cuts off RISC-V chip designer linked to Huawei acceleratorsEN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.