Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Przegląd otwartych modeli: Nvidia Kumo Tabular na czele tygodnia małych, otwartych wydań

Nvidia wydała Kumo Tabular 30 września. To otwarty model bazowy do predykcji tabelarycznej, który według firmy nie wymaga trenowania, dostrajania ani inżynierii cech i zajmuje pierwsze miejsce w czterech benchmarkach. Trafił na tydzień gęsto zapełniony wydaniami otwartych wag, od modelu mowy ważącego 164 MB po model językowy z 145 mln parametrów, wytrenowany przez wolontariuszy.

AI i modeleAnalizaMarta ZielińskaOpublikowano: 30 września 20265 min czytaniaŹródła 9
Przegląd otwartych modeli: Nvidia Kumo Tabular na czele tygodnia małych, otwartych wydań

Kumo Tabular od Nvidii to najgłośniejsza nazwa w tym zestawie, ale nie jest modelem językowym. Dostaje tabelę z oznaczonymi wierszami i przewiduje etykiety nowych wierszy w jednym przejściu w przód. Firma podaje, że model występuje w trzech rozmiarach, od 28 mln do 215 mln parametrów, i był pretrenowany wyłącznie na danych sztucznych. Wydano go na licencji OpenMDW-1.1, która dopuszcza użycie komercyjne. Nvidia twierdzi, że zajmuje pierwsze miejsce w TabArena, BeyondArena, TALENT i ScoringBench.

Małe modele, małe pliki do pobrania

Najbardziej zaskakującym artefaktem tygodnia nie jest ten najzdolniejszy. Fermion Research wydało 30 września Phonon-2, otwarty model rozpoznawania mowy angielskiej, który mieści się w pliku o rozmiarze 164 MB. Firma podaje, że model osiąga średnio 5,21 proc. błędu na poziomie słowa na siedmiu angielskich zbiorach z Open ASR Leaderboard, a każdy otwarty model z lepszym wynikiem jest co najmniej 5,8 razy większy. Wagi są na licencji CC-BY-4.0 i pochodzą z modelu Parakeet TDT 0.6B v3 od Nvidii.

Twierdzenia inżynierskie są konkretne: każda waga kodera jest zapisana jako jeden z pięciu wyuczonych poziomów, około 2,1 bita na wagę, upakowanych jako cyfry trójkowe, po pięć w jednym bajcie. Według Fermionu na MacBooku Air godzina nagrania zamienia się w tekst w około 20 sekund. Na dolnym końcu widma otwartych wag cały sens tkwi w tym stosunku rozmiaru do dokładności.

W tym samym czasie projekt wolontariacki o nazwie Coop opublikował transformer dekoderowy z 145 mln parametrów, wytrenowany bez serwerów i bez finansowania, jak podaje jego repozytorium na GitHubie. Konfiguracja jest nietypowa: uczestnicy pobierają checkpoint z Hugging Face, wykonują lokalne kroki AdamW na własnym fragmencie danych i przesyłają pseudo-gradient jako pull request do publicznego repozytorium zbioru danych na Hugging Face. Zadanie cron w GitHub Actions scala zgłoszenia co pięć minut, choć README zaznacza, że współdzielony scheduler GitHuba uruchamia je w odstępach od kilku minut do kilku godzin.

Wcześniejszy etap Coopa, model z 15 mln parametrów trenowany przez wolontariuszy na TinyStories w sześć dni, obniżył stratę walidacyjną z 9,01 do 2,8. Dokumentacja projektu ostrożnie podchodzi do tego, co to dowodzi: pojedyncza strata walidacyjna nic nie mówi, więc tabela wyników dopasowuje nachylenie do całej serii, względem tokenów, a nie zewnętrznych kroków, i podaje je z błędem standardowym.

Narzędzia i układy scalone

Warstwa infrastruktury też się ruszyła. Brytyjski Instytut Bezpieczeństwa AI i Meridian Labs opublikowały 30 września Inspect, otwarty framework do ewaluacji modeli frontier. Zawiera ponad 200 gotowych testów, narzędzie webowe Inspect View, rozszerzenie do VS Code oraz system piaskownicy, który uruchamia niezaufany kod modeli w Dockerze, Kubernetes, Modal, Proxmox lub Vagrant. Obsługuje ponad 20 dostawców modeli, a także wnioskowanie lokalne z HuggingFace, vLLM i SGLang.

Wybór terminu ma znaczenie, bo ewaluacja stała się tematem politycznym. 30 września The Guardian poinformował, że amerykańska Federalna Komisja Handlu wszczęła branżowe śledztwo wobec Anthropic, OpenAI i innych laboratoriów AI. To pierwsza oficjalna akcja egzekwowania prawa dotycząca niekontrolowanych agentów AI. Według doniesień, na które powołuje się gazeta, FTC zamierza wezwać do zeznań przedstawicieli Anthropic, OpenAI i grupy badawczej Metr. Cała trójka odmówiła komentarza dla The Guardiana. Jako pierwszy podał tę wiadomość New York Post.

Jest też warstwa chipów. Deepseek udostępnia otwarte narzędzia programistyczne dla chipów Ascend firmy Huawei, jak wynika z wpisu na oficjalnym kanale WeChat firmy, o którym 30 września napisał The Decoder. Głównym elementem jest TileLang, język programowania opracowany pierwotnie przez badaczy z Uniwersytetu Pekińskiego. Deepseek przekonuje, że oferuje prostszy model niż CUDA od Nvidii. Reuters podał, że oprogramowanie obejmuje biblioteki obliczeń i przemieszczania danych oraz że Deepseek udostępnia całość jako open source. Według Deepseek Huawei w pełni wsparł tę pracę, a obie firmy zoptymalizowały superwęzeł ze 128 chipów Ascend 950.

Nie wszyscy przyjmują tę ramę. Firma badawcza SemiAnalysis przetestowała chip wnioskowania Jalapeno od OpenAI i nazwała fosę CUDA „potencjalnie martwą”, choć zastrzega, że testowała tylko scenariusze z około 8 000 tokenów wejściowych i 1 000 tokenów wyjściowych i nie uruchomiła jeszcze swojego benchmarku AgentX. W sierpniu ta sama firma uznała, że Nvidia ma wyraźną przewagę w obciążeniach agentowych.

Czego te wydania nie rozstrzygają

Otwarte wagi nie oznaczają otwartego procesu. Agregator Coopa odrzuca zbyt stare zgłoszenia, a pozostałe przycina średnią obcięciową albo medianą geometryczną, zanim wykona pojedynczy krok Niestierowa. Piaskownica Inspect istnieje właśnie dlatego, że kod modeli nie jest zaufany. Licencja Phonon-2 pochodzi od modelu innej firmy.

A zgodność to nie dokładność. Jevstiller, otwarte narzędzie opisane przez The Register 29 września, destyluje wyniki Jev do lokalnego modelu i deklaruje 98 proc. zgodności z usługą źródłową, odpowiadając na znane zapytania w zaledwie 15 ms. Jego twórcy mówią wprost w dokumentacji: „Zgodność to nie dokładność”. To zdanie pasowałoby pod większością wydań z tego tygodnia.

Tło polityczne jest jeszcze mniej ustalone. Sam Altman, szef OpenAI, powiedział dziennikarzom na dniu deweloperskim firmy we wtorek, że spółka nie wejdzie na giełdę, dopóki nie będzie mogła „podejmować pewnych decyzji dotyczących bezpieczeństwa”, jak podaje Ars Technica. Firma negocjuje pozyskanie 30 mld dolarów lub więcej przy wycenie około 1,4 bln dolarów, donosi Ars Technica, powołując się na osoby znające sprawę, a cel 30 mld dolarów jako pierwszy podał Bloomberg. BBC News relacjonowało to samo wydarzenie i zauważyło, że Altman nazwał nowe agenty o nazwie dots „wyjątkowo zdolnymi, stale działającymi agentami, które poradzą sobie z naprawdę wszystkim, co można sobie wyobrazić”.

Istnieje wersja tego tygodnia, w której otwarte wagi to po prostu tańsza dystrybucja. Nvidia chce Kumo Tabular w firmowych potokach danych. Fermion chce Phonon-2 na laptopach. Deepseek chce, żeby krzem Huawei miał oprogramowanie. Coop chce pokazać, że pętla trenowania może działać na podarowanym sprzęcie. Wspólny wątek nie jest ideologiczny, tylko arytmetyczny: mniejsze artefakty, mniej zużytych tokenów, mniej wynajmowanej infrastruktury.

Czy ta arytmetyka poprawia bezpieczeństwo, to osobne pytanie i w tym tygodniu nie było na nie czystej odpowiedzi.

Komentarze 0

Źródła

9
  1. 01Nvidia Kumo Tabular: Open Foundation Model for Tabular PredictionEN
  2. 02Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
  3. 03Coop: A small language model pretrained by volunteersEN
  4. 04Inspect: An open-source framework for large language model evaluationsEN
  5. 05US trade regulator opens investigation into AI giantsEN
  6. 06China's AI industry closes ranks as Deepseek ships open-source software for Huawei's Ascend chipsEN
  7. 07Jevstiller: Open-source tool distills Jev so you can run it locallyEN
  8. 08OpenAI delays IPO over AI safety concernsEN
  9. 09OpenAI unveils AI assistant 'dots' while safety worries delay new modelEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Marta Zielińska

Marta Zielińska

AI, modele i technologie

Marta Zielińska pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, preprintach i danych z API, a nie na zapowiedziach producentów. Przy każdej publikacji sprawdza karty modeli, parametry treningowe i benchmarki, a liczby porównuje z niezależnymi testami i wynikami z repozytoriów. Rozmawia z badaczami i inżynierami, czeka na kolejne wydania modeli i zestawia ich działanie z wcześniejszymi wersjami. Prywatnie drukuje w 3D, naprawia stare komputery i sprawdza, jak modele uczą się na śmieciach z internetu. Nie publikuje wyników, których nie może odtworzyć na własnym sprzęcie.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.