Héberger des modèles open weight ne paie qu'à partir de 35 % d'utilisation sur B300

Pour qui compte vendre des tokens produits par des modèles open weight, la carte GPU pèse plus que le moteur d'inférence. Un nœud 8xB300 tournant à 50 % à 70 % d'utilisation rapporte une marge brute de 31 % à 51 %. La H200 ne couvre pas ses coûts, quel que soit le taux d'utilisation. Reste à savoir si ces marges résisteront à la guerre des prix d'OpenRouter. 29 fournisseurs y vendent le même modèle, et le prix d'entrée le plus bas est de 0,056 dollar le million de tokens, contre environ 0,30 dollar chez la plupart.

Le test de rentabilité

userecurrence.ai a publié l'analyse. Elle fixe un modèle, un profil de trafic, une promesse de vitesse, un prix et un loyer, puis ne change que la carte. La H200 perd de l'argent même à pleine charge. La B300 en gagne dès 35 % d'occupation.

Le test fait tourner DeepSeek V4.1 Flash avec une promesse de 100 tokens de sortie par seconde et par utilisateur, sur la base des prix publics de location de GPU. Le trafic vient de la charge AgentX de SemiAnalysis : 393 sessions Claude Code rejouées. L'entrée médiane est de 142 000 tokens, la sortie médiane de 444, et environ 95 % de l'entrée est servie depuis le cache. Un camp affirme que DeepSeek gagne 38 dollars par heure GPU, l'autre que tout le monde perd de l'argent sur OpenRouter. L'analyse répond qu'ils ne mesurent pas la même chose.

Pourquoi la carte compte plus que le moteur

Les moteurs d'inférence open source ne sont plus le point faible. vLLM et SGLang sont au niveau de la production, et DeepSeek a ouvert le code de DeepInfer, le moteur derrière sa propre API. L'équipe de vLLM a reproduit le débit de décodage de DeepInfer à 6 % près sur le même matériel en octobre 2026.

Le moteur est donc un problème résolu, quelle que soit la façon dont on s'en procure un. Un moteur écrit maison peut atteindre le même niveau, selon l'analyse. Ce qui sépare le profit de la perte, c'est le matériel loué et le taux d'occupation maintenu. La barre de vitesse est haute : 100 tokens de sortie par seconde et par utilisateur, alors que le fournisseur médian sur OpenRouter en sert environ 35.

La guerre des prix passe déjà sous le coût du modèle

OpenRouter recense 29 fournisseurs qui vendent le même DeepSeek V4.1 Flash. Le moins cher demande 0,056 dollar le million de tokens d'entrée, contre environ 0,30 dollar chez la plupart, ce que l'analyse qualifie de sous le coût, quel que soit le calcul. Volume et revenus ont déjà divergé : le volume de tokens de V4 a environ doublé au premier semestre 2026 tandis que sa part des dépenses n'a presque pas bougé.

DeepSeek V4.1 Flash a capté environ 30 % de tous les tokens d'OpenRouter pendant la semaine du 19 au 25 octobre, loin devant les autres modèles open weight. Le trafic n'est pas celui de chatbots. Le trafic agentique tourne à 7 fois le trafic humain, et environ 87 % des tokens sont servis depuis le cache.

L'open source comme distribution

La même logique traverse le reste du business open source. En octobre 2026, NVIDIA a publié toute la plateforme HeavyAI en open source sous Apache 2.0, y compris l'interface de visualisation Immerse, HeavyRF et HeavyConnect. Le dépôt ne contenait depuis longtemps qu'une version open source limitée du cœur HeavyDB.

Ailleurs, l'open source sert de marketing. Higgsfield a annoncé vouloir ouvrir le code de sa plateforme, et ComfyUI a lancé un hackathon de deux semaines pour reconstruire ses applications les plus populaires. Le premier prix global est de 10 000 dollars, et les candidatures ont fermé le 3 novembre. CaseCite, une plateforme de recherche juridique auto-hébergée sous Apache 2.0, se présente comme la réponse open source à Harvey, qui a levé 500 000 000 de dollars pour l'IA juridique. Les documents, l'index de recherche et l'historique des conversations restent sur les serveurs de l'exploitant, et les fonctions d'IA tournent avec ses propres clés d'API.

Le côté acheteur pousse dans le même sens. Les équipes d'IA en entreprise produisent désormais plus de code qu'elles ne peuvent en évaluer, ce qui fait de la revue, de la sécurité et de la gouvernance le goulot d'étranglement plutôt que la génération.

La suite

ComfyUI annonce les gagnants de son hackathon le 10 novembre. La plateforme complète de HeavyAI est disponible dès maintenant sous Apache 2.0. Les versions de CaseCite jusqu'à 1.3.0 restent sous Elastic License 2.0, tandis que les versions actuelles passent à Apache 2.0. La vraie question est de savoir si les marges de la B300 tiendront à mesure que les prix d'OpenRouter continuent de baisser.