Otwarty stos do dostrajania LLM-ów przebudowuje się wokół agentów, nie modeli
30 września Cloudflare udostępnił na licencji open source Forge, generator, który zamienia specyfikację API na SDK, CLI, dokumentację i serwery MCP. NVIDIA opublikowała też Kumo Tabular, model bazowy, który przewiduje z tabel w jednym przejściu, bez treningu i inżynierii cech. Żadne z nich nie jest narzędziem do dostrajania, ale oba pokazują, w którą stronę zmierza otwarty stos.
Najnowszy element z tego zestawu nie jest frameworkiem do dostrajania. 30 września Cloudflare opublikował Forge, otwarty, modułowy generator. Zamienia specyfikację API na SDK, CLI, dokumentację i serwery MCP. Blog firmy podaje, że Forge generuje już dane wyjściowe potrzebne dla cf CLI. W ciągu najbliższych kilku miesięcy ma zasilać dokumentację API i SDK Cloudflare.
Podany powód nie jest wygodą programisty. Cloudflare pisze, że zbudował Forge "ponieważ sami go potrzebowaliśmy, żeby traktować agentów jak naszych klientów". API, które za tym stoi, ma ponad 3 500 operacji. Obejmują usługi napisane w Rust, Go, TypeScript i Pythonie. To ujęcie jest sygnałem. Narzędzia wokół modelu, klej, który zamienia wagi w produkt, są teraz tym, co idzie na open source i zostaje standaryzowane. Często wyprzedzają same modele.
NVIDIA zrobiła ten sam ruch tego samego dnia, w innym zakątku. Wpis Kumo Tabular na Hugging Face, opublikowany 29 września, opisuje otwarty model bazowy do klasyfikacji i regresji tabelarycznej.
Dostawszy oznaczone wiersze, zwraca prawdopodobieństwa klas albo liczby w jednym przejściu. Nie potrzebuje treningu, dostrajania ani inżynierii cech. Występuje w trzech rozmiarach od 28 000 000 do 215 000 000 parametrów i był wstępnie trenowany wyłącznie na danych sztucznych. Wydano go na licencji OpenMDW-1.1 do użytku komercyjnego. NVIDIA twierdzi, że zajmuje pierwsze miejsce w TabArena, BeyondArena, TALENT i ScoringBench. Przekaz wprost mówi o zastąpieniu cyklu ponownego trenowania i wdrażania. Drzewa wzmacniane gradientowo narzucały ten cykl korporacyjnemu uczeniu maszynowemu przez dwie dekady. Otwarty stos dzieli się więc na dwie gałęzie. Jedna usuwa etap dostrajania z całych kategorii pracy. Druga wciąż wymaga zmiany wag, a jej otoczenie jest otwierane.
Gałąź taniego wnioskowania rośnie szybko
Fermion Research wydała 30 września Phonon-2, model rozpoznawania mowy angielskiej. Jego koder przechowuje każdą wagę jako jeden z pięciu wyuczonych poziomów, około 2,1 bita na wagę. Pobieranie to 164 MB. Według strony badawczej firmy model osiąga średnio 5,21 proc. błędu słowa na siedmiu angielskich zbiorach Open ASR Leaderboard. Każdy otwarty model z lepszym wynikiem jest co najmniej 5,8 razy większy. Godzinę dźwięku zamienia w tekst w około 20 sekund na MacBooku Air. Wagi są na licencji CC-BY-4.0 i pochodzą z Parakeet TDT 0.6B v3 firmy NVIDIA.
Ten sam wzorzec powtarza się z OpenZL firmy Meta, który ukazał się w wersji v0.3.0 29 września. Informacje o wydaniu opisują nowy silnik LZ, używający PivCo Huffman jako backendu entropii. Dekompresja jest o 33 proc. szybsza niż w v0.2.0 i o 144 proc. szybsza niż Zstandard przy równoważnych ustawieniach.
Dla każdego, kto trenuje lub serwuje modele, ciekawszy jest Compression Transformer. To mała sieć neuronowa, która buduje grafy kompresji liczbowej na bieżąco, dla każdego wejścia, bez treningu na źródle. Meta oceniła ją na 868 rodzinach strumieni liczbowych, 34 737 plikach i 17,9 GB. Meta twierdzi, że kompresuje średnio o 35 proc. lepiej niż zstd -19. Mieści się też w granicach 1,1 proc. od grafów trenowanych. Mniejsze wagi, lepsza kompresja, mniej zużytych tokenów. Taki jest kierunek, a kosztuje to pracę branżę dostrajania.
Jev od TypeSafe to najczystszy przykład modelu zbudowanego tak, by nie potrzebował zwykłej adaptacji. Odpowiada na pytania Choice, Score i Noul zamiast generować tekst. Dzięki temu jest tak tani, że ciekawym problemem staje się routing, nie trening.
The Register poinformował 29 września, że Jevstiller, projekt open source, destyluje Jev do lokalnego modelu uczniowskiego. Celuje w 98 proc. zgodności z usługą hostowaną. Odpowiada też na znane żądania na procesorze urządzenia w zaledwie 15 ms. Dokumentacja projektu, cytowana przez The Register, mówi, że pewne wejścia są obsługiwane lokalnie, a wszystko inne idzie do góry. To dostrajanie pod inną nazwą i dzieje się na maszynie użytkownika, wobec nauczyciela, którego użytkownik nie kontroluje.
Przed czym musi się teraz bronić stos do dostrajania
OpenAPPA, wypchnięta na GitHub 30 września, stoi między agentem a jego narzędziami. Przed każdym wywołaniem odpowiada na jedno pytanie: czy te dane mogą trafić do tego miejsca docelowego? Śledzi wrażliwość i zaufanie do wszystkiego, co agent czyta. Egzekwuje politykę zapisaną w deklaratywnym TOML.
Benchmarki projektu twierdzą, że żaden punktowany atak nie powiódł się w 1 320 ocenach, przy ukończeniu 88 do 90 proc. zadań. Porównują to z Microsoft FIDES, który przepuszcza 28 do 35 proc. ataków. To liczby samych autorów, uruchomione na ich własnych zestawach. Protokół UAI, również opublikowany 30 września, atakuje tę samą lukę od strony tożsamości. Agent dostaje tożsamość powiązaną z odpowiedzialnym właścicielem oraz paszport ograniczony czasem i jurysdykcją. Dostaje też podpisane, powiązane hashem atestacje tego, co zrobił.
README jest ostrożny w sposób, jakiego większość projektów nie ma. "UAI nie twierdzi, że agent AI jest bezpieczny" - czytamy. "Zapewnia mechanizm czynienia działań agenta przypisywalnymi i niezależnie weryfikowalnymi." Oba projekty istnieją, bo alternatywa w tym roku widocznie zawiodła. Tą alternatywą jest zaufanie systemowi, który wykonał działanie, że też napisze log.
The Guardian poinformował 30 września, że FTC wszczęła branżowe śledztwo wobec Anthropic, OpenAI i innych. To pierwsza oficjalna akcja egzekucyjna USA dotycząca zbuntowanych agentów AI, z planowanymi formalnymi żądaniami informacji i wymuszonymi zeznaniami. Według The Guardian jako pierwszy podał tę wiadomość New York Post.
Ars Technica poinformowała tego samego dnia, że OpenAI przesunęła swoje IPO. Sam Altman powiedział dziennikarzom na dniu dewelopera firmy, że nie będzie "walił ze wszystkich dział w stronę IPO", dopóki wciąż musi "podejmować pewne decyzje dotyczące bezpieczeństwa". Ars podała wycenę firmy na 852 mld dolarów. Podała, że firma negocjuje pozyskanie 30 mld dolarów lub więcej przy wycenie około 1,4 bln dolarów. Tego samego dnia organizacja non-profit Legal Advocates for Safe Science & Technology złożyła pozew w Kalifornii. Domaga się lepszych praktyk oceny, monitorowania i treningu.
"Biorąc pod uwagę to, co widzimy pod względem postępu i rozwoju [w AI], częstotliwość i wyrafinowanie tych przypadków hakowania będą tylko rosnąć" - powiedziała Vivian Dong, dyrektorka programów w LASST, w komentarzach cytowanych przez Ars Technica.
Praktyki treningowe są teraz ekspozycją prawną. To zmienia, po co istnieje stos do dostrajania.
Warstwa zarządzania też idzie na open source
OpenClaw Enterprise, ogłoszony 30 września, to najbardziej bezpośrednia próba odpowiedzi na to. To otwarty, neutralny wobec dostawców plan kontroli dla trwałych agentów. Oferuje wielodzierżawczość, twarde granice między zaufanymi i niezaufanymi obciążeniami, sandboxing, przeglądy oparte na LLM i szczegółowe uprawnienia. Blog podaje, że projekt powstał w OpenAI i został przekazany Fundacji OpenClaw. Jest teraz rozwijany z Red Hat i NVIDIA. Ma wersję przed 1.0 i jest opisywany jako odpowiedni do wewnętrznych obciążeń pilotażowych. Według ogłoszenia OpenAI już uruchamia agentów OpenClaw z pełnym dostępem do baz kodu i wtyczek.
Inspect brytyjskiego Instytutu Bezpieczeństwa AI, udokumentowany 30 września, obejmuje stronę pomiaru. To framework do ewolucji granicznych z komponowalnymi zbiorami danych, solverami i oceniającymi. Ma ponad 200 gotowych ewaluacji. Wspiera uruchamianie dowolnych zewnętrznych agentów, w tym Claude Code, Codex CLI i Gemini CLI, z sandboxingiem w Dockerze, Kubernetes lub Modal.
Jest jeszcze cichsza, bardziej praktyczna warstwa. Repozytorium GitHub opublikowane 30 września kataloguje znane awarie w ChatGPT Work i Codex po DevDay OpenAI z 29 września. Linkuje do raportów użytkowników, a nie potwierdzonych błędów. Jego główna skarga: długie przebiegi agenta zawodzą, a zużyta kwota nie jest zwracana, bo nie ma punktu kontrolnego do wznowienia. Jeden z cytowanych raportów Codex desktop mówi, że przebieg naprawczy spalił około 50 proc. tygodniowego limitu po 7 godzinach 15 minutach. OpenAI nie potwierdziła żadnego z tych doniesień. Autor repozytorium twierdzi, że GPT-5.6 Sol działa dobrze przez OpenCode, co wskazuje na infrastrukturę, a nie modele.
Vincent Schmalbach, pisząc 30 września, przedstawia komercyjną wersję tego samego argumentu. Mówi, że OpenAI dała mu 5 000 dolarów kredytu na użycie na dwóch kontach Codex. Mówi też, że powiedziano mu, iż limit na jego subskrypcjach za 200 dolarów zostanie zmniejszony o połowę od 30 października, gdy Pro 200 przejdzie z 20x na 10x limitu Plus. Planuje zejść do Plus i wydać różnicę na subskrypcje Claude. To relacja jednego klienta, nie badanie rynku. Ale kierunek jest spójny ze stosem, w którym model jest towarem, a uprząż jest produktem.
Brakujący element
Temat, który mnie tu sprowadził, otwarty stos do dostrajania LLM-ów, jest najcieńszą częścią tego artykułu. Dwa wpisy są blisko. Nimble od Bespoke Labs, wypchnięty 30 września, publikuje dane, przepis treningowy i model 9 000 000 000, który podejmuje typowane decyzje. README wyraźnie mówi, że nie destylował z Jev. Chodzi o pokazanie, jak kuratorować dane, trenować i serwować, oraz o zachęcenie do dalszych badań.
OpenResearch, również opublikowany 30 września, to lokalne środowisko desktopowe i CLI. Daje agentom kodującym wyszukiwanie literatury w alphaXiv, bioRxiv i PubMed. Daje im też wykonywanie eksperymentów na Slurm, Kubernetes, Modal lub Hugging Face Jobs. I prowadzi lokalny zapis SQL każdego przebiegu, żeby agenci mogli uczyć się z poprzednich wyników. Żaden nie jest trenerem. Oba zakładają, że model już istnieje, a trudna część to orkiestracja, pochodzenie danych i ocena. To realna zmiana i nie jest oczywiście dobrą wiadomością dla każdego, czyj produkt był nakładką na skrypt treningowy.
Jedna przeciwwaga, z Rest of World z 30 września: chińskie krajowe centra otwartych modeli mocno się skalują. ModelScope firmy Alibaba, uruchomiony w 2 023, gości teraz ponad 170 000 modeli. MoArk firmy OSChina, uruchomiony w 2 023, obsługuje jakieś 20 000.
Dyrektor generalny OSChina Xu Yong powiedział portalowi, że nie każdy może korzystać z VPN przez cały czas. Powiedział, że Chiny rozwijają niezależny ekosystem w AI szybciej niż w erze internetu. Rest of World podaje też, że Nvidia ogłosiła we wrześniu przejęcie Hugging Face za 12,9 mld dolarów. Suwerenne stosy oznaczają suwerenne dostrajanie, a ta praca nie będzie się dziać na tych samych narzędziach co u wszystkich innych.
Wydania tego tygodnia łączy jedna przesłanka: przestań trenować, kiedy możesz zamiast tego kierować ruchem, kompresować lub weryfikować. Czy to się utrzyma dla obciążeń, które naprawdę potrzebują nowych wag, to pytanie, na które żadne z tych ogłoszeń nie odpowiedziało.
Źródła
15- 01Introducing Forge: the open source pipeline for generating SDKs, CLIs, docs, and moreEN
- 02NVIDIA Kumo Tabular Sets a New Accuracy-Efficiency Frontier for Tabular PredictionEN
- 03Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
- 04Release OpenZL v0.3.0EN
- 05Open source tool distills Jev so you can run it locallyEN
- 06OpenAPPA: Deterministic guardrails that don't break agentsEN
- 07UAI: An open protocol for identity and accountability of AI agentsEN
- 08US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
- 09OpenAI delays IPO over AI safety concernsEN
- 10OpenClaw Enterprise - The Open Agent PlatformEN
- 11Inspect: An open-source framework for large language model evaluationsEN
- 12OpenAI after DevDay 2026: known issues for serious development workEN
- 13OpenAI Is Paying Me to Move My Business to AnthropicEN
- 14Nimble: Data, Model, Recipe for an Open Jev (From Bespoke Labs)EN
- 15The open-source AI platforms vying to become China's Hugging FaceEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.