Modele fundamentalne dla robotyki przyciągają uwagę, ale liczby zostają w warstwie decyzyjnej

Piątego października Liquid AI udostępnił d1, który nazywa swoim pierwszym modelem decyzyjnym i pierwszym tego typu, obsługującym obrazy obok tekstu. Jak podano we wpisie na blogu firmy, d1 odpowiada na pytanie o sytuację, podając prawdopodobieństwo dla każdej możliwej odpowiedzi. Czyta tekst, obrazy albo jedno i drugie w jednym przejściu do przodu, bez generowania tokenów. Decyzja na tekście zajmuje od 200 do 300 ms.

Do testów porównawczych dostawcy trzeba podchodzić sceptycznie. Liquid twierdzi, że d1 dorównuje GPT-6.1 Sol lub go przewyższa w czterech z sześciu testowanych zastosowań, od filtrowania zgłoszeń do działu wsparcia po kontrolę płytek drukowanych, a kosztuje od 19 do 200 razy mniej niż ten model i Claude Opus 5.5. Na publicznym zbiorze VisA sortuje dobre i wadliwe części z dokładnością od 85 do 97%, choć, jak zapewnia firma, nigdy go do tego nie trenowano.

Dlaczego to ważne dla robotyki? Bo historię ucieleśnionej AI z ostatniego roku zdominowały duże modele fundamentalne, a trudniejszy problem tkwi często w taniej, szybkiej ocenie pod nimi: czy ta część jest wadliwa, czy ten chwyt jest bezpieczny, czy ta klatka wymaga drugiego spojrzenia. Przykłady Liquid idą w tę stronę. Model układa dokumenty w folderach, obsługuje stronę do wyszukiwania lotów na podstawie jednego zdania celu i kompresuje wynik narzędzi agenta kodującego, usuwając 52% tokenów, a zachowując to, czego potrzebuje zadanie.

Małe modele podejmują decyzje

Ten sam wzorzec widać w dwóch innych wydaniach z tego tygodnia. Projekt na GitHubie o nazwie Jeff-Code, opublikowany 5 października, umieszcza model decyzyjny o 800 mln parametrów w pętli agenta Pi, agenta kodującego Mario Zechnera i współpracowników. Wokół każdego kroku Qwen 3.8-27B, modelu o 27 mld parametrów, Jeff wykonuje dwa wywołania po około 0,2 s: czy może sam zrobić następny krok i czy Qwen musi się mocno zastanowić. Projekt podaje 62,4% zdanych zadań wobec 62,8% dla samego Qwen na 1 242 sparowanych zadaniach, przy czasie na zadanie 0,68x i różnicy sparowanej minus 0,2 punktu.

To mała próbka małych liczb, ale kierunek zgadza się z tezą Liquid: płać za wnioskowanie na najwyższym poziomie tylko wtedy, gdy tani model powie, że go potrzebujesz. Jeff-Code pokazuje też tryb awarii. W około 5% zadań działa ponad 30 minut dłużej niż sam Qwen, dlatego łączny czas spada tylko do 0,86x.

Reika, kolejne wydanie z 5 października, obiera odwrotną drogę. Projektuje interfejs wiersza poleceń agenta kodującego wokół małych modeli lokalnych, w zakresie od 8 mld do 35 mld parametrów przy kwantyzacji od Q2 do Q4 i oknie kontekstu od 16 do 32 tys. tokenów. Dokumentacja jest niezwykle szczera co do ograniczeń. W testach modele od 14 mld do 35 mld parametrów najpewniej radziły sobie z zadaniami obejmującymi wiele plików, modele od 8 mld do 9 mld dawały radę z prostymi, dobrze określonymi zadaniami, a poniżej 7 mld rzadko zachodziły daleko.

Narzut samego środowiska wracał wielokrotnie. Jedno przepisanie w środku kontekstu przetworzyło ponownie 8 453 tokeny promptu, 7,9 minuty wstępnego przetwarzania, podczas gdy dopisanie w tej samej sesji kosztowało 25 tokenów i 3,5 sekundy. Wywołanie grep, które zgłosiło „0 trafień” dla zapytania, którego nie mogło obsłużyć, skłoniło model do pięciokrotnego przeformułowania poprawnego wzorca.

„Sformułowanie promptu to najsłabsza dźwignia”, czytamy w README Reiki. Przy niejasnym zadaniu w Q2 model zbiega albo wchodzi w spiralę mniej więcej 50/50, a środowisko nie może zmienić tego wskaźnika, tylko to, ile kosztuje przegrywająca połowa.

Duże wydanie z otwartymi wagami wciąż przed nami

Ponad tym wszystkim stoi Beam, pierwszy model Reflection z otwartymi wagami, ogłoszony 5 października. To rzadki model mieszanki ekspertów o 501 mld parametrów łącznie i 23 mld aktywnych, wstępnie wytrenowany na 23,8 bln tokenów, z przebiegiem uczenia ze wzmocnieniem obejmującym ponad 100 mln prób na 10 500 procesorach graficznych NVIDIA GB300 przez cztery tygodnie.

Reflection ostrożnie mówi o tym, co pokazał, a czego nie. Beam wciąż przechodzi końcowe testy red team i ewaluacje; wagi, raport techniczny i karta modelu pojawią się w tym miesiącu. Firma twierdzi, że Beam jest konkurencyjny wobec większych modeli otwartych, takich jak GLM 5.2, i zbliża się do Qwen 3.8-Max w zadaniach kodowania i agentowych, przyznając jednocześnie, że Kimi K3 pozostaje z przodu pod względem surowych możliwości. Jej przewagą, argumentuje wpis, jest efektywność wnioskowania, z porównywalnymi wynikami rozumowania co GLM-5.2 przy 3 do 4 razy mniejszym zużyciu mocy obliczeniowej.

Dla każdego, kto buduje polityki robotów na otwartych wagach, właśnie ta deklaracja efektywności jest tą, na którą warto patrzeć, i pozostaje niezweryfikowana, dopóki nie pojawi się raport techniczny.

Materiał źródłowy, nie komunikaty prasowe

Dwa inne materiały w dossier warto przeczytać bezpośrednio. NASA i IBM opublikowały 5 października na GitHubie kod do dostrajania i wnioskowania modelu Lunar Foundation Model, z konfiguracjami TerraTorch do wykrywania kraterów, segmentacji IMP i prospekcji lodu, a także wagi na Hugging Face. To rzadki przypadek, gdy agencja kosmiczna udostępnia wielokrotnego użytku szkielet geoprzestrzenny z uruchamialnymi zadaniami pochodnymi.

Interfaze 1.1 Lite, opublikowany na Hugging Face 5 października, to model o mieszanej architekturze, który działa na jednym procesorze graficznym o 80 GB bez zewnętrznych usług: rdzeń rozumowania wywołuje wyspecjalizowane modele do OCR, mowy, segmentacji i prognozowania, ze strukturalnym wyjściem JSON. Podaje 83,8 na olmOCR-Bench i 73,2 na MMMU-Pro, wobec 85,7 i 71,1 dla samego Interfaze.

Nie każda liczba z tego tygodnia wspiera tezę o małych modelach. Badanie Uniwersytetu Kalifornijskiego w Riverside, opublikowane 23 września, wykazało, że pewność siebie i poprawność w Llama-3.1-8B i Gemma-2-9B wynikają z różnych cech wewnętrznych, więc pewność modelu nie jest wiarygodnym sygnałem, że ma rację. Wyciszenie cech związanych wyłącznie z niepewnością ostro obniżyło dokładność, jak podano w materiale uczelni. Każdy system, który kieruje pracą na podstawie pewności modelu, powinien najpierw przeczytać ten artykuł.