Sarvam AI udostępnia Prism, model decyzyjny z otwartymi wagami i medianą odpowiedzi 44 ms

Sarvam AI udostępnił Sarvam Prism 3 listopada 2026 r. To model decyzyjny z otwartymi wagami, który ocenia ustaloną listę opcji, zamiast pisać tekst. Firma z Bengaluru podała we wpisie na blogu, że mediana czasu odpowiedzi wynosi 44 milisekundy na jednym procesorze graficznym NVIDIA B200, a średnia z trzech indeksów to 71,8.

Model decyzyjny, nie chatbot

Sarvam podaje, że Prism ocenia ustaloną listę opcji i zwraca prawdopodobieństwa.

Każde zapytanie zawiera stan, pytanie i dowolną liczbę opcji. Prism przetwarza takie wejście w jednym przejściu do przodu. Niewielka głowica oceniająca przypisuje prawdopodobieństwo każdej opcji, a własna maska uwagi utrzymuje opcje w izolacji. Sarvam dotrenował metodą LoRA model o 105 000 000 000 parametrów.

Sarvam wymienia też kierowanie zapytań do wybranego modelu jako przetestowane zastosowanie.

Skuteczność i szybkość

Sarvam Prism zdobył średnio 71,8 w trzech indeksach: 67,0 w Jev Decision Index, 65,9 w odtworzonym przez Sarvam Artificial Analysis Decision Index i 82,5 w wewnętrznym teście dla języków indyjskich.

Sarvam podaje, że to najwyższa średnia wśród 25 modeli decyzyjnych w jego ocenie, które odpowiadały w czasie poniżej 100 ms. W tym zestawie są Prism i 24 konkurentów. Testy przeprowadzono na tym samym typie układu, choć w przypadku dwóch systemów dostępnych tylko przez API, Jev 1.14 i Microsoft-Decision-1, użyto publicznie podanych czasów, a nie pomiarów lokalnych.

To nie najdokładniejszy model w tabeli. Mammoth-1 zdobył 75,2, ale jego mediana odpowiedzi wyniosła 284 ms. Sarvam podaje, że jego konfiguracja startowa działała z medianą 664 ms w precyzji 16-bitowej na dwóch procesorach B200; konwersja wag do FP8 pozwoliła zmieścić model na jednym GPU.

Kalibracja i testy językowe

Przy pewności co najmniej 90% w języku angielskim Sarvam oczekiwał 3,3% błędów. Popełnił 2,2%, na 226 088 pytaniach z 37 publicznych testów porównawczych.

Dla 20 108 pytań w 10 językach indyjskich i w Hinglish oczekiwał 5,4% błędu, a popełnił 4,4%. W osobnym teście na 2 000 pytań Prism zmienił 4,0% odpowiedzi, gdy opcje przestawiono w czterech kolejnościach i oceniano je w podanej kolejności. Sarvam podaje, że ustalenie wewnętrznej kolejności opcji przed oceną, a potem zwrócenie każdego prawdopodobieństwa pod jego pierwotną etykietą, usunęło te zmiany.

W wewnętrznym teście Sarvam dla języków indyjskich Sarvam Prism zdobył 82,5. Perplexity Decider v1.2 zdobył 75, a Jev 1.14 zdobył 70,8. W wewnętrznym teście cyberbezpieczeństwa na 5 517 pytaniach w dziewięciu zadaniach model uzyskał 89% dokładności. Clef zdobył 84,5%, a Jev 1.14 zdobył 78,6%.

Otwarte wagi, jeden GPU

Sarvam udostępnił wagi na Hugging Face na licencji Apache 2.0, z dostępem hostowanym przez API Sarvam na Sarvam Indus. Firma podaje, że wdrożenie wymaga jednego GPU z co najmniej 120 GB pamięci.

Sarvam podaje, że Prism obsługuje do 131 072 tokenów na pytanie. To wystarczy, by ocenić długi ślad działania agenta w jednym przejściu. Sarvam podaje, że przedsiębiorstwa mogą trenować model na własnych danych. Jako wczesne zastosowania wymienia kierowanie zgłoszeń do obsługi klienta, analizę dokumentów, kontrole bezpieczeństwa i ocenę działania agentów AI.

Co pozostaje nierozstrzygnięte

Porównanie przeprowadził sam Sarvam. Średnia łączy trzy indeksy: Jev Decision Index, odtworzony przez Sarvam Artificial Analysis Decision Index i wewnętrzny test dla języków indyjskich.