Sarvam AI publie Prism, un modèle de décision à poids ouverts avec une réponse médiane de 44 ms

Sarvam AI a publié Sarvam Prism le 3 novembre 2026, un modèle de décision à poids ouverts qui note une liste fixe d'options au lieu d'écrire du texte. L'entreprise de Bengaluru indique dans un billet de blog que le modèle affiche un temps de réponse médian de 44 millisecondes sur un seul GPU NVIDIA B200 et obtient 71,8 en moyenne sur trois indices.

Un modèle de décision, pas un chatbot

Sarvam indique que Prism note une liste fixe d'options et renvoie des probabilités.

Chaque requête comporte selon Sarvam un état, une question et un nombre quelconque d'options. Prism traite cette entrée en une seule passe avant. Une petite tête de notation attribue une probabilité à chaque option, et un masque d'attention personnalisé isole les options les unes des autres. Sarvam a obtenu ce modèle par un affinage LoRA appliqué à Sarvam 105 000 000 000.

Sarvam cite aussi le routage de modèles parmi les usages testés.

Précision et vitesse

Sarvam Prism obtient 71,8 en moyenne sur trois indices : 67,0 sur le Jev Decision Index, 65,9 sur la recréation par Sarvam de l'Artificial Analysis Decision Index et 82,5 sur un benchmark interne de langues indiennes.

Sarvam affirme qu'il s'agit de la meilleure moyenne parmi les 25 modèles de décision de son évaluation qui répondaient en moins de 100 ms, un ensemble qui comprend Prism et 24 concurrents. Les tests ont été menés sur le même type de puce, mais deux systèmes accessibles uniquement par API, Jev 1.14 et Microsoft-Decision-1, ont été chronométrés à partir de mesures publiées et non de relevés locaux.

Ce n'est pas le modèle le plus précis du tableau. Mammoth-1 obtient 75,2 mais affiche une réponse médiane de 284 ms. Sarvam précise que sa configuration de départ tournait à 664 ms en médiane en précision 16 bits sur deux GPU B200 ; la conversion des poids en FP8 a permis de faire tenir le modèle sur un seul GPU.

Calibration et tests linguistiques

À un niveau de confiance d'au moins 90 % en anglais, Sarvam attendait 3,3 % d'erreurs. Il en a commis 2,2 %, sur 226 088 questions issues de 37 benchmarks publics.

Sur 20 108 questions en 10 langues indiennes et en hinglish, il attendait 5,4 % d'erreur et en a produit 4,4 %. Dans un test distinct de 2 000 questions, Prism a changé 4,0 % de ses réponses lorsque les options étaient mélangées en quatre ordres puis notées telles quelles. Sarvam indique que placer les options dans un ordre interne fixe avant la notation, puis renvoyer chaque probabilité sous son libellé d'origine, a supprimé ces changements.

Sur le benchmark interne de langues indiennes de Sarvam, Sarvam Prism obtient 82,5. Perplexity Decider v1.2 obtient 75 et Jev 1.14 obtient 70,8. Sur un benchmark interne de cybersécurité de 5 517 questions réparties en neuf tâches, il atteint 89 % d'exactitude. Clef obtient 84,5 % et Jev 1.14 obtient 78,6 %.

Poids ouverts, un seul GPU

Sarvam a publié les poids sur Hugging Face sous licence Apache 2.0, avec un accès hébergé via l'API Sarvam sur Sarvam Indus. L'entreprise indique que le déploiement nécessite un GPU disposant d'au moins 120 Go de mémoire.

Sarvam précise que Prism traite jusqu'à 131 072 tokens par question. De quoi évaluer en une seule passe la trace longue d'un agent. Les entreprises peuvent selon Sarvam entraîner le modèle sur leurs propres données. Sarvam cite le routage du support client, l'intelligence documentaire, les contrôles de sécurité et l'évaluation des performances des agents IA parmi les premières applications.

Ce qui reste ouvert

Sarvam a mené lui-même la comparaison. La moyenne combine trois indices : le Jev Decision Index, la recréation par Sarvam de l'Artificial Analysis Decision Index et un benchmark interne de langues indiennes.