Otwarte wagi wciąż wychodzą: Inspect, Phonon-2, Kumo Tabular i ochotniczy model 145 000 000M
Brytyjski Instytut Bezpieczeństwa AI i Meridian Labs opublikowały 30 września Inspect, otwartoźródłowe narzędzie z ponad 200 gotowymi ewaluacjami. To kolejna w serii otwartych premier, obok modelu mowy Phonon-2 od Fermion Research i Nvidii Kumo Tabular.

Premiera odbyła się 30 września o 15:20 UTC, jak podaje strona projektu. Inspect to framework do ewaluacji modeli frontier, zbudowany przez brytyjski Instytut Bezpieczeństwa AI i Meridian Labs. Obiecuje szeroki zakres: kodowanie, zadania agentowe, rozumowanie, wiedzę, zachowanie i rozumienie wielomodalne, wszystko w jednym narzędziu.
Framework dostarcza komponowalne zbiory danych, agentów, narzędzia i skorery oraz bibliotekę ponad 200 gotowych ewaluacji. Jest przeglądarkowe narzędzie Inspect View i rozszerzenie do VS Code. Niezaufany kod modeli działa w piaskownicy Dockera, Kubernetesa, Modala, Proxmoxa lub Vagranta przez API rozszerzeń. Projekt twierdzi, że obsługuje ponad 20 dostawców modeli, w tym lokalne wnioskowanie z HuggingFace, vLLM i SGLang.
Narzędzia do ewaluacji to ta mniej efektowna połowa otwartych wag. Wagi bez sposobu na ich zmierzenie są tylko plikami.
Model mowy 164 MB i model tabelaryczny, który nie wymaga treningu
Fermion Research wydał Phonon-2 30 września i nazywa go najdokładniejszym otwartym modelem rozpoznawania mowy poniżej 900 MB. Plik waży 164 MB. Firma podaje średni błąd słowa 5,21 procent na siedmiu zestawach angielskich z Open ASR Leaderboard i twierdzi, że każdy otwarty model z lepszym wynikiem jest co najmniej 5,8 razy większy.
Koder zapisuje każdą wagę jako jeden z pięciu wyuczonych poziomów, około 2,1 bita, upakowanych w cyfry o podstawie 3, po pięć na bajt. Wagi są na licencji CC-BY-4.0, tej samej co Nvidia Parakeet TDT 0.6B v3, z którego pochodzą. Fermion twierdzi, że godzina dźwięku zamienia się w tekst w około 20 sekund na MacBooku Air, a na H100 w partiach po 128 to 13 sekund na dzień nagrania.
Wkład Nvidii to inny rodzaj kompresji. Kumo Tabular, opublikowany na Hugging Face 29 września, przewiduje etykiety z oznaczonej tabeli w jednym przejściu do przodu, bez treningu, dostrajania i inżynierii cech, zarówno do klasyfikacji, jak i regresji. Występuje w trzech rozmiarach od 28 000 000 do 215 000 000 parametrów, był wstępnie trenowany wyłącznie na danych sztucznych i jest wydany na licencji OpenMDW-1.1 do użytku komercyjnego. Nvidia twierdzi, że zajmuje pierwsze miejsce w TabArena, BeyondArena, TALENT i ScoringBench.
Ochotnicy, Rust i model 145 000 000 trenowany na zadaniach cron
Mniejsze projekty też ruszają. Coop, projekt na GitHubie aktualizowany 30 września, wstępnie trenuje dekoderowy transformer o około 145 000 000 parametrów na FineWeb-Edu, korzystając z oddanego sprzętu konsumenckiego i darmowych planów Hugging Face i GitHub Actions. Pseudogradienty przychodzą jako pull requesty do publicznego repozytorium zbioru danych. Bezstanowe zadanie cron GitHub Actions scala je zewnętrznym krokiem w stylu DiLoCo co pięć minut, przynajmniej w teorii, bo projekt zauważa, że harmonogram GitHuba uruchamia się od kilku minut do kilku godzin później. Etap 1, model 15 000 000 na TinyStories, przekroczył optymalny budżet Chinchilli w sześć dni i zbił stratę walidacyjną z 9,01 do 2,8.
Osobno projekt w Ruście o nazwie PSSA, również aktualizowany 30 września, opisuje architekturę nietransformerową z selektywną rekurencją przestrzeni stanów, bankiem pamięci epizodycznej i aktualizacjami wag na token. Autor twierdzi, że uczy się szybciej niż transformer przy tych samych parametrach i generuje około dwanaście razy szybciej na tym samym procesorze. W repozytorium nie ma niezależnego benchmarku.
Otwarte premiery tego tygodnia przypadają na trudniejszy okres regulacyjny. The Guardian poinformował 30 września, że FTC wszczęła branżowe śledztwo wobec Anthropic, OpenAI i innych firm, pierwsze oficjalne działanie egzekucyjne USA dotyczące zbuntowanych agentów AI. Ars Technica podała tego samego dnia, że OpenAI opóźnia IPO z powodu obaw o bezpieczeństwo. Otwarte wagi nie są przedmiotem żadnego z tych działań, ale ta kontrola nadaje ton wszystkiemu, co wychodzi obok nich.
Źródła
7- 01Inspect: An open-source framework for large language model evaluationsEN
- 02Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
- 03Nvidia Kumo Tabular: Open Foundation Model for Tabular PredictionEN
- 04Coop: A small language model pretrained by volunteersEN
- 05PSSA: A non-transformer language model written from scratch in RustEN
- 06US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
- 07OpenAI delays IPO over AI safety concernsEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.