Claude Haiku 5.5 réduit les prix API de 90 % face à l'évolution des coûts d'inférence

Anthropic a publié Claude Haiku 5.5 le 8 octobre. C'est le petit modèle le plus rapide et le plus abordable de l'entreprise. Le lancement cible les tâches à fort volume comme les requêtes de données et l'assistance client.

Selon The Decoder, le modèle coûte environ 75 % de moins que son prédécesseur, Haiku 4.5. Pour les requêtes avec des prompts de 100 000 jetons ou moins, ce que Anthropic affirme représenter environ 90 % des requêtes Haiku précédentes, les prix baissent de 90 %. Les jetons d'entrée coûtent désormais 0,10 $ par million, contre 1,00 $ auparavant. Les jetons de sortie tombent à 0,50 $ par million contre 5,00 $.

Cette baisse de prix survient alors que le reste de la pile logicielle se renchérit. Pavan Davuluri, responsable de Windows chez Microsoft, a admis dans le podcast Inside Windows que le coût croissant de la mémoire pousse l'entreprise à faire en sorte que Windows 11 utilise moins de RAM. Davuluri a décrit la mémoire comme une priorité « absolue » pour l'industrie, notant que les constructeurs réintroduisent des ordinateurs portables de 8 Go sur le marché. Selon Windows Latest, Microsoft a fait de « l'optimisation de la mémoire pour 8 Go et plus » une priorité officielle pour le reste de l'année 2 026.

Des prix par jeton plus bas ne signifient pas toujours des factures totales plus basses. Artificial Analysis classe Haiku 5.5 comme le modèle de classe petite leader avec un score de 43 sur son indice d'intelligence. Cependant, la plateforme signale une consommation de jetons beaucoup plus élevée. Au niveau d'effort le plus élevé, Haiku 5.5 utilise environ 162 000 jetons de sortie par tâche, soit environ trois fois les 50 000 jetons nécessaires à GPT-6 Luna d'OpenAI.

Le compromis d'efficacité

Même à des niveaux de performance comparables, l'écart persiste. Avec le réglage d'effort « élevé », Haiku 5.5 obtient un score de 38 avec environ 55 000 jetons par tâche, tandis que GPT-6 Luna atteint le même score avec environ 50 000 jetons. En termes d'efficacité de Pareto, soit le ratio de performance à l'utilisation des ressources, le modèle d'OpenAI est en tête. Passer de l'effort « très élevé » à « maximum » sur GPT-6 Luna n'ajoute que deux points tout en augmentant la consommation de jetons de 1,8 fois.

Anthropic souligne que Haiku 5.5 utilise un tokeniseur mis à jour qui consomme légèrement plus de jetons par tâche que son prédécesseur. La même chose s'est produite avec les modèles Opus 4.x, où l'utilisation des jetons a augmenté d'environ 30 % simplement à cause du changement de tokeniseur. Les économies réelles sont probablement plus faibles que ce que suggèrent les prix par jeton, une nuance qui complique le récit d'une pure guerre des prix.

Pressions matérielles et infrastructurelles

Tandis que les fournisseurs d'API se livrent concurrence sur les prix, l'infrastructure physique nécessaire pour servir ces modèles reste un goulot d'étranglement. HPCwire note que les systèmes d'inférence IA échouent différemment des services web traditionnels. La latence moyenne peut sembler normale alors que les utilisateurs sont déjà insatisfaits parce que les requêtes attendent dans des files d'attente pour former des lots. Le comportement de démarrage à froid est un autre problème ; démarrer un travailleur d'inférence implique de télécharger les modèles, de charger les poids en mémoire et d'initialiser l'état des accélérateurs. Kubernetes peut afficher un pod comme étant en cours d'exécution, mais cela ne signifie pas que le système a déjà une capacité de service réelle.

Cette complexité stimule la demande pour un matériel spécialisé et des optimisations logicielles. Magnitude, un moteur d'inférence open source lancé en septembre, prétend optimiser les noyaux pour du matériel spécifique afin d'exécuter les modèles ouverts jusqu'à 2 fois plus vite que llama.cpp. L'outil compile et ajuste les noyaux sur l'appareil de l'utilisateur, ciblant Apple Silicon, NVIDIA, AMD ou des environnements CPU uniquement. Il vise à réduire l'utilisation de la mémoire de 27 % par agent, un facteur critique alors que les coûts de la RAM grimpent.

L'emplacement compte aussi. Data Center Knowledge rapporte sur un centre de données de 20 étages proposé au centre-ville de Kansas City, conçu pour utiliser la connectivité dense des opérateurs pour une inférence à faible latence. Steve Austin, fondateur de Revitalization Unlimited, argue que l'inférence doit se produire près de l'utilisateur parce que la latence compte. Le projet fait face à des coûts de construction plus élevés, estimés à 183 000 000 $ ou environ 1 300 $ par pied carré, par rapport aux installations de banlieue. Cette prime n'est justifiée que pour des charges de travail spécifiques comme les transactions financières ou les interactions IA en temps réel.

La surveillance réglementaire s'intensifie également autour des pratiques de tarification. La FTC a envoyé des lettres à 24 grandes entreprises de services de santé le 5 octobre, les avertissant contre la tarification trompeuse. Bien que non directement liée à l'IA, cette mesure signale un intérêt gouvernemental plus large pour la transparence des prix. De même, McDonald's a été poursuivi en justice le 2 octobre pour avoir prétendument utilisé un outil d'IA pour déterminer les prix dans les franchises, ce que les plaignants affirment enfreint les lois antitrust en facilitant la fixation algorithmique des prix.

Le contexte du marché plus large

La poussée vers une inférence moins chère ne se limite pas à Anthropic. Les chercheurs sur arXiv publient des articles sur l'atténuation de la surdépendance au moment de l'inférence et l'évaluation efficace des politiques. Un article soumis le 7 octobre propose un cadre échantillonnage uniquement pour évaluer les politiques Best-of-N, ce qui aide à sélectionner les budgets d'échantillonnage les plus efficaces sans avoir besoin d'un accès complet à la vraisemblance. Ce travail académique sous-tend les efforts d'ingénierie pour rendre l'inférence moins chère et plus fiable.

Les fournisseurs cloud ajustent aussi leurs stratégies. AWS aurait relevé les prix de la capacité GPU de 15 % fin septembre, une mesure qui contraste avec les réductions d'API d'Anthropic. Cette divergence suggère que, bien que les coûts de calcul brute augmentent, la concurrence au niveau de l'application oblige les fournisseurs à trouver des efficacités ailleurs. Le résultat est un marché où le coût de l'intelligence est découplé du coût du silicium qui l'alimente.

Pour les développeurs, la conclusion est claire : le jeton le moins cher n'est pas toujours la solution la plus rentable. Le coût total de possession dépend désormais de l'efficacité des jetons, de l'utilisation du matériel et des exigences de latence spécifiques de la charge de travail. Alors que l'inférence devient le champ de bataille principal de l'IA, l'attention se déplace des capacités brutes des modèles vers l'économie de la livraison.