Accélérateurs IA : la bataille des datacenters se déplace vers la chaîne d'approvisionnement du packaging
Les fabricants d'accélérateurs IA repensent la façon dont le calcul communique avec la mémoire. Le goulot d'étranglement se situe plus en amont : un fabricant japonais de tissu de fibre de verre contrôle environ 90% d'un matériau dont chaque boîtier avancé a besoin, et les nouvelles capacités n'arriveront pas avant mi-2027.

En 2026, tout débat sur les accélérateurs IA finit par buter sur le même mur : la bande passante mémoire. Le calcul coûte cher mais reste disponible. Le va-et-vient des poids et du cache KV entre la mémoire et les unités de calcul fixe le budget énergétique, la taille du boîtier et la date de livraison. C'est pourquoi SiFive, d-Matrix et Rebellions ont tous présenté cette année des conceptions qui attaquent l'interface mémoire plutôt que la matrice de multiplication-addition.
The Register rapportait le 19 septembre 2024 que SiFive, longtemps fournisseur de cœurs CPU RISC-V intégrés au silicium IA d'autres entreprises, s'est mis à concéder sous licence son propre accélérateur. Le cluster Intelligence XM associe quatre cœurs RISC-V Intelligence X à un moteur de calcul matriciel maison. Chaque cluster prend en charge jusqu'à 6 000 000 000 000 octets par seconde de bande passante mémoire. Il est annoncé à 16 TOPS en INT8 ou 8 téraFLOPS en BF16 par gigahertz. John Ronco, de SiFive, a déclaré à la publication que la plupart des puces construites sur cette conception utiliseront quatre à huit clusters. Cela donne entre 4 et 8 To/s de bande passante mémoire en pointe et jusqu'à 32 à 64 téraFLOPS de BF16 à 1 GHz.
Ces chiffres restent modestes face à un Nvidia H100.
Le plus intéressant est à qui SiFive vend. Ronco indique que certains clients veulent encore construire leur propre matériel, mais que d'autres préfèrent un guichet unique. SiFive ne vise pas Google ni Tenstorrent, qui conçoivent déjà leurs propres accélérateurs. L'entreprise cible les organisations qui veulent un bloc prêt à l'emploi à personnaliser puis à envoyer en fonderie.
Le plafond reste flou. Ronco s'est montré prudent sur la montée en charge de la conception, même si la présentation produit laisse entendre que 512 clusters XM sont envisageables. À 1 GHz, cela représenterait environ quatre pétaFLOPS de calcul matriciel BF16. Les GPU Blackwell les plus hauts en gamme de Nvidia atteignent 2,5 pétaFLOPS. SiFive a aussi annoncé qu'il proposerait une implémentation de référence open source de sa SiFive Kernel Library.
Empiler de la DRAM sur la puce logique
La couverture du Hot Chips 2026 par ServeTheHome décrit une autre voie choisie par d-Matrix : poser directement la logique sur la DRAM. La conception Raptor de l'entreprise empile une puce logique TSMC N4 sur une puce DRAM 3D avec un empilement face à face de 36 microns. d-Matrix soutient que la SRAM atteint la cible de bande passante, environ 300 To/s à une latence d'environ 1 ns pour une paire de cartes accélératrices Corsair SRAM, mais ne tient qu'environ 4 Go. Une cellule SRAM 6T est aussi environ dix fois plus grande qu'une cellule DRAM. La HBM résout la capacité, mais d-Matrix cite un plafond pratique de bande passante autour de 20 To/s pour les boîtiers HBM4 comme Nvidia Vera Rubin et AMD Instinct MI455.
La consommation est la raison. À 2,4 pJ/bit, faire passer 100 To/s dans de la HBM consomme environ 1,92 kW avant même de compter le trafic de fabric. L'IO vertical 3D, à l'inverse, descend à environ 0,3 à 0,4 pJ, soit environ dix fois moins que la HBM. C'est un chemin millimétrique sans PHY plutôt qu'une route d'interposeur centimétrique. Le compromis est thermique : d-Matrix affirme qu'un empilement logique-sur-DRAM 1-Hi à 0,5 W/mm2 maximum peut être refroidi par liquide en gardant la DRAM sous 100C.
Le détail d'ingénierie rend ces affirmations vérifiables. Chaque moteur tensoriel a besoin d'un flit de 128 000 000 000 bits par accès. Avec 32 000 000 000 bits livrés par accès colonne depuis des bancs de 32 000 000 000 bits, cela impose quatre bancs par canal. La puce de d-Matrix compte 840 bancs, 768 après 72 de réserve, répartis sur 256 canaux : trois bancs par canal. Un accès unique renvoie 96 000 000 000 bits, donc livrer un flit de 128 000 000 000 bits demande deux accès et récupère 192 000 000 000 bits, gaspillant environ 33% de la bande passante près de 33 To/s. Le correctif de d-Matrix, le stream blocking, partage un accès partiel de 32 000 000 000 bits entre trois flits, si bien que quatre accès à 96 000 000 000 bits alimentent trois flits à 128 000 000 000 bits. La surlecture tombe à zéro. Une seconde astuce, le stream flipping, inverse chaque flit par rapport au précédent pour réduire les bascules. Elle récupère environ 20% de la puissance d'IO sans la broche de bande latérale qu'exige l'inversion classique du bus de données.
À 32 Go par carte, avec des poids en 4 bits et un cache KV en 8 bits, d-Matrix dimensionne une montée en charge de 72 cartes pour héberger un modèle de frontière comme Kimi K3 sur 1 000 000 de tokens de contexte. ServeTheHome note que l'entreprise a présenté ces travaux au Hot Chips 2026.
UCIe arrive sur une carte qui tourne
Rebellions a montré quelque chose de plus rare qu'une diapositive : du silicium en fonctionnement. ServeTheHome rapportait le 25 août 2025 que le Rebellions REBEL-Quad avait été démontré au Hot Chips 2025 sur une carte de développement faisant tourner Llama 3.3 70 000 000 000 à 35,5 ms en moyenne par token de sortie. Le boîtier repose sur Samsung SF4X et CoWoS-S, avec quatre ASIC de calcul, quatre sites HBM3E pour 144 Go de mémoire et quatre condensateurs silicium intégrés. Il utilise UCIe-A comme interconnexion de chiplets et une carte d'interface double PCIe Gen5 x16.
ServeTheHome a signalé le choix du PCIe comme un possible raté, étant donné que le GB300 de Nvidia inaugure le PCIe Gen6. La critique est juste pour une puce destinée à l'inférence en scale-out. Mais la démo compte plus que la fiche technique. UCIe est discuté depuis des années, et les fabricants ont tardé à communiquer qu'ils l'utilisent parce que l'interconnexion reste à l'intérieur du boîtier. Que Rebellions intègre autant de pièces de silicium dans un seul grand boîtier et montre que cela fonctionne est un point de données dont l'écosystème des chiplets avait besoin.
Tous les accélérateurs n'ont pas besoin d'une baie de datacenter. Draw Things a publié le 11 novembre 2025 des résultats pour Metal FlashAttention v2.5 avec Neural Accelerators sur l'Apple M5. L'entreprise revendique jusqu'à 4,6 fois mieux que le M4 dans sa propre application de génération d'images et de vidéos. Elle rapporte des gains bruts de 3,6 à 5,5 fois sur l'iPad M4 et de 3,3 à 4,6 fois de bout en bout. Un iPad M5 se situe dans la plage d'un M2 Max et souvent environ 80% plus lent qu'un M3 Ultra (60c). Elle indique qu'un iPad M5 de 16 Go peut générer une vidéo 480p de cinq secondes avec les modèles Wan 2.2 A14B. La sortie est un aperçu : Draw Things précise que la prise en charge BF16 était d'abord désactivée à cause de bugs non résolus, puis rétablie dans une version du 17 novembre. Elle ajoute que des longueurs de séquence d'attention impaires et de grandes dimensions de têtes provoquent encore des chutes de performance.
Le matériau dont personne hors du packaging n'a entendu parler
Tout ce travail de conception se heurte à un problème d'approvisionnement qui n'a rien à voir avec l'architecture. Tom's Hardware rapportait le 9 mars 2026 que Nittobo contrôle environ 90% de l'offre mondiale de T-glass. Le T-glass est un tissu de fibre de verre à faible CTE utilisé dans le cœur organique des substrats IC, la couche d'interconnexion entre une puce et sa carte de circuit imprimé. Le T-glass garde stables les grands boîtiers soumis à la chaleur. Le E-glass coûte moins cher mais sert surtout aux puces bas de gamme comme les microcontrôleurs et les anciens processeurs mobiles ; pour le packaging 2.5D et 3D massif, le T-glass a la préférence.
Nittobo triple la capacité de son usine de Fukushima, mais l'offre nouvelle n'atteindra le marché qu'à la mi-2027. Les prix ont augmenté de 20% à 30%. Les délais des matériaux en aval, comme les laminés cuivrés, sont passés d'un délai normal de 8 à 10 semaines à plus de 20. L'analyste de Yuanta Bill Ho a déclaré à Tom's Hardware que les fournisseurs ne communiquent plus de délais. Bilal Hachemi, de Yole Group, explique que le T-glass n'est pas facile à remplacer car il présente des valeurs diélectriques et de CTE précises qui conviennent mieux aux puces IA, en particulier le cœur organique. Il ajoute que les marges historiquement faibles de l'industrie du substrat IC font qu'une hausse de demande même modeste déclenche des pénuries.
Le moteur de la demande est la taille des boîtiers. Selon des données de Nvidia citées par Tom's Hardware, les tailles d'interposeur sont passées de 814 mm2 pour Hopper à 1 700 mm2 pour Blackwell, une hausse de 109%, Rubin et Feynman grimpant encore. Bank of America estime que le segment des matériaux électroniques de Nittobo va presque doubler ses ventes, de 40 900 000 000 yens en 2025 à 87 700 000 000 yens d'ici mars 2028, avec des marges opérationnelles proches de 48%. Nittobo double la capacité de fil brut de son usine taïwanaise. Elle a aussi conclu un accord de collaboration avec Nanya Plastics pour externaliser une partie du tissage. D'ici 2027, environ 20% du tissu de verre de Nittobo devrait être tissé par Nanya.
Nittobo s'associe à l'un de ses plus gros concurrents pour desserrer le goulot. C'est le signal le plus clair de l'endroit où se situe la contrainte. Les architectes d'accélérateurs peuvent continuer à raboter les picojoules par bit. Mais si le tissu à l'intérieur du substrat est alloué des années à l'avance, la date de livraison se décide ailleurs.
Sources
5- 01SiFive shifts from RISC-V cores for AI chips to designing its own acceleratorEN
- 02d-Matrix Raptor 3D-DRAM Accelerator for Generative Inference at Hot Chips 2026EN
- 03Rebellions REBEL-Quad UCIe and 144GB HBM3E Accelerator at Hot Chips 2025EN
- 04Metal FlashAttention v2.5 with Neural Accelerators on the Apple M5 ChipEN
- 05Shortages of crucial chip packaging material threatens AI accelerator supply chainsEN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.