Amazon udostępnia Strands Decider 2B. Modele decyzyjne gęsto oblegają benchmarki
Amazon Web Services wydał 1 października Strands Decider 2B, otwarty model decyzyjny, który wybiera między wcześniej ustalonymi opcjami i podaje ocenę pewności. Stało się to w tym samym tygodniu, w którym OpenAI zapowiedziało podobną propozycję, i miesiąc po tym, jak kategorię zapoczątkował Jev od TypeSafe.

Amazon Web Services wydał 1 października Strands Decider 2B, mały otwarty model, który nie pisze prozy. Wybiera spośród opcji zdefiniowanych wcześniej przez workflow i informuje, jak bardzo jest pewien wyboru. TechCrunch podał o wydaniu tego samego dnia, zaznaczając, że model jest dość mały, by działać lokalnie, i można go pobrać za darmo. To najnowszy uczestnik kategorii, która miesiąc temu ledwo istniała. TypeSafe AI, laboratorium z San Francisco założone przez byłego badacza OpenAI Diogo Almeidę, wypuściło Jev i nazwało go pierwszym ze swoich System One Models. Obietnica jest wąska: żadnego czatu, żadnego generowania tekstu, tylko typowane odpowiedzi probabilistyczne, na których oprogramowanie może działać.
Co właściwie zwraca model decyzyjny
Według InfoQ wywołujący wysyła do Jev stan, ciąg znaków albo dane strukturalne, oraz zestaw typowanych pytań. Model ocenia je w jednym równoległym przebiegu i zwraca odpowiedzi Choice, Score i Noul wraz z rozkładem prawdopodobieństwa i wartością pewności. Kod wywołujący działa powyżej progu, a poniżej progu eskaluje sprawę dalej.
Szczegóły handlowe są jawne. Wejście kosztuje 0,042 dolara za milion tokenów, wyjście jest darmowe, okno kontekstu wynosi 32 000 tokenów, a TypeSafe podaje opóźnienie end to end od 70 ms do 500 ms. Trening opiera się na metodzie, którą firma nazywa Reinforcement Learning for Calibrated Decisions. Liczby pochodzą z tekstu InfoQ z 1 października.
Wersja Amazona powstała na szkielecie Qen3.5-2B. Marc Brooker, distinguished engineer w Amazonie, zbudował ją po tym, jak zobaczył Jev, i spróbował własnego podejścia. Domowy projekt na krótko wskoczył na pierwsze miejsce w rankingu Jevbench dla modeli tej wielkości, podał TechCrunch, a inżynierowie Amazona go dopracowali i wydali w ramach Strands Labs.
„To, co mnie pierwotnie zaciekawiło w tej klasie modeli, to że są idealnym decydentem dla kroku workflow: co mam tu teraz zrobić, biorąc pod uwagę, gdzie jestem?” powiedział Brooker TechCrunchowi.
Za atut uznał niezawodność płynącą z ocen pewności i zamkniętej dziedziny odpowiedzi, a do tego niższe opóźnienie i potencjalnie niższy koszt. To cały argument sprzedażowy tej kategorii i TypeSafe mówi dokładnie to samo.
Liczby wdrożeń i ich ograniczenia
Wczesne przyjęcie Jev to najbardziej konkretny dowód, że kategoria ma nabywców. Vercel dodał Jev do swojego AI Gateway drugiego dnia i podał, że w ciągu 24 godzin dotarł do blisko 13% płatnych zespołów, dwa razy więcej niż rodzina GPT-5.6, według InfoQ. Netlify poszło tą samą drogą, LangChain wydał integrację TypeSafeClassifier z routingiem modeli oraz middleware AutoMode, który sprawdza wywołania narzędzi, zanim się wykonają, a w ciągu kilku dni pojawiło się pięć niezależnych klientów w Elixirze.
Do deklaracji wydajności należy podchodzić sceptycznie. Inżynier Vercela Pranit Sharma stwierdził, że klasyfikator bezpieczeństwa działał od pięciu do osiemnastu razy szybciej niż zastąpiony LLM. CTO Bryo AI Nikhil Mudholkar ocenił Gemini jako nieco dokładniejszy w klasyfikacji e-maili, ale od 10 do 20 razy droższy, i docenił Jev jako jedyny model zwracający prawdziwe prawdopodobieństwo.
OpenChamber przeanalizował 12 759 tweetów z premiery. Mediana zgłaszanych przez użytkowników przyspieszeń wyszła 7x wobec nagłówkowego 193,6x. Oszczędności kosztów wypadły na medianie 30x, a opóźnienie na medianie 76 ms, z górnym kwartylem 270 ms. To liczby deklarowane przez samych użytkowników w postach społecznościowych, zagregowane, i są znacznie poniżej wyniku marketingowego.
Armin Ronacher, CTO Earendil, powiedział TechCrunchowi, że konstrukcja „przenosi problem halucynacji trochę na użytkownika”, który sam musi zdecydować, czy prawdopodobieństwo 50% jest warte działania. Wskazał routing modeli jako inne dobre zastosowanie. Na Hacker News jeden z deweloperów zauważył, że Jev nie potrafi zwrócić nieprawidłowego typu, ale wciąż może zwrócić całkowicie błędną, choć poprawną wartość.
Zatłoczone pole o niejasnej wartości
Od czasu, gdy TypeSafe pokazało ten pomysł, pojawiły się dziesiątki podobnych modeli. To dowód zainteresowania. Rodzi też pytanie, ile którykolwiek z nich jest wart, zwłaszcza gdy metoda jest publiczna, a koszt zbudowania niski.
Brooker powiedział TechCrunchowi, że niekoniecznie spodziewa się dominacji czołowych laboratoriów w tej przestrzeni, bo przy mniejszych rynkach koszt zbudowania czegoś ciekawego sięga setek albo tysięcy dolarów. Przedstawiciele TypeSafe mówią, że trzymają głowy nisko i ulepszają kolejne modele.
„Rozumiem, że ludzie myślą, że to gorączka złota, ale mogą nie doceniać, jak trudno jest sprawić, by modele były naprawdę mądre” powiedział TechCrunchowi CEO i założyciel Diogo Almeida, dodając, że na razie nie widzi realnej konkurencji dla swojej firmy.
Brooker opisał kompromis inżynierski jako równowagę między dokładnością a kalibracją w zadaniach decyzyjnych, bez pogarszania rozumienia języka i wiedzy ogólnej modelu. Popchnij jedno, a drugie się przesunie.
Problem benchmarków pod spodem
Modele decyzyjne trafiają w środowisko pomiarowe, które już jest sporne. Praca opublikowana na arXiv 29 września, More Choices, Fewer Decisions, bada obciążenie skalą porządkową w modelach decyzyjnych typu JEV, co bezpośrednio podważa sposób oceniania tych systemów. Inna praca z arXiv, przesłana tego samego dnia, ArgGYM, przekonuje, że sukces przy ustalonych specyfikacjach problemu i stabilnych kryteriach oceny może nie przenosić się na rozumowanie przy niepełnej i zmiennej informacji, i przedstawia proceduralny benchmark z 1 440 zweryfikowanych przypadków w piętnastu konfiguracjach programu nauczania.
Prace kliniczne wskazują w tę samą stronę. Artykuł przyjęty do Findings EMNLP 2026, Sense and Sensitivity, porównał LLM-y z praktykującymi lekarzami w ponad 6 000 scenariuszy klinicznych i 7 000 adnotacji lekarzy. Wykazał, że LLM-y częściej niż lekarze zalecają niepotrzebną opiekę w warunkach wyjściowych, a skłonność ta rośnie przy zaburzonych danych wejściowych, podobnie jak wrażliwość na zmiany płci i tonu. Wyniki benchmarków tego nie przewidziały.
Sprzęt to kolejna oś. AgBench, również opublikowany 29 września, ocenił lokalne, hybrydowe i chmurowe wykonanie agentów na 162 070 000 punktów danych i stwierdził, że żadna pojedyncza architektura nie wypada najlepiej jednocześnie pod względem sukcesu zadania, goodputu, kosztu chmury i ekspozycji danych. Wykonanie wyłącznie lokalne eliminuje koszty API w chmurze i ekspozycję wrażliwych informacji, ale zwykle ma niższy wskaźnik sukcesu i dłuższy czas ukończenia.
Ten wynik ma znaczenie dla lokalnej propozycji Amazona. Strands Decider 2B może działać na twoim własnym komputerze. Czy powinien, w danym workflow, zależy od liczb, których, jak twierdzi AgBench, nikt nie publikuje w jednej porównywalnej tabeli.
Tymczasem ten sam tydzień przyniósł wydanie zupełnie innego rodzaju. Google wypuściło 30 września Gemini 4 Argon, nazywając go najpotężniejszym modelem w historii, ale ograniczyło go do wybranej grupy partnerów cyberbezpieczeństwa w ramach programu Fairwind. The Guardian podał 1 października, że Koray Kavukcuoglu, główny architekt AI Google, napisał, iż bezpieczne udostępnianie zdolności frontierowych na tym poziomie wymaga podejścia etapowego, i że Google dobrowolnie daje rządowi USA wczesny dostęp.
Kontrast jest historią tego miesiąca. Z jednej strony model 2B, który każdy może pobrać i uruchomić na laptopie. Z drugiej system frontierowy wstrzymany przed publiką z powodu ryzyka nadużyć, po tym jak OpenAI zdecydowało się porzucić GPT-6.1 Astra, gdy nie przeszedł testów alignmentu, o czym CNBC i WIRED pisały 28 i 29 września.
Modele decyzyjne nie konkurują na tej osi. Konkurują o to, czy krok workflow da się zrobić taniej, szybciej i przewidywalniej niż przez wywołanie modelu ogólnego. Jevstiller, projekt na GitHubie opublikowany 30 września, doprowadza tę logikę do końca: stoi przed powtarzanymi wywołaniami klasyfikacji Jev, uczy się z rozkładów prawdopodobieństwa samego Jev i odpowiada na większość żądań lokalnie, gdy lokalny model zgadza się z Jev w ustalonym budżecie. Na Banking77, odtworzonym wobec zapisanych odpowiedzi Jev, lokalny model obsłużył 71,9% odłożonych wiadomości przy zgodności 99,50% z Jev, przejmując większość ruchu od około 5 000 wiadomości.
Ekonomia kategorii wciąż jest testowana. 13% płatnych zespołów w 24 godziny w Vercelu to realne wdrożenie, ale wdrożenie darmowej integracji z gatewayem, nie dowód trwałego wydatku. Mediana 7x przyspieszenia u OpenChamber jest znacznie poniżej wyniku nagłówkowego. A prace benchmarkowe, które pojawiają się w tym tygodniu, sugerują, że dziedzina nie ustaliła, jak odróżnić dobrego decydenta od szybkiego.
Na razie modele są tanie, otwarte i mnożą się. Pomiar za nimi nie nadąża.
Źródła
11- 01Amazon releases its own Jev clone as decision models flood the webEN
- 02TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
- 03More Choices, Fewer Decisions: Ordinal-Scale Bias in JEV-like Direct-Decision ModelsEN
- 04ArgGYM: A Procedural, Engine-Verified Benchmark for Structured Defeasible ReasoningEN
- 05Sense and Sensitivity: Benchmarking LLM Clinical Triage Recommendations with Physician ExpertsEN
- 06AgBench: Agentic AI Benchmarks for Personal AI DevicesEN
- 07Jevstiller: Distill a repeated Jev classification task into a local modelEN
- 08Google rolls out new Gemini AI model but restricts access over safety concernsEN
- 09Google releases Gemini 4 Argon, called its most powerful model yetEN
- 10OpenAI abandons plan to release upcoming model as safety concerns escalateEN
- 11OpenAI Delays Release of Latest Model Over Safety ConcernsEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.