Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Otwarte wagi wciąż wychodzą: Inspect, Phonon-2, Kumo Tabular i ochotniczy model 145 000 000M

Brytyjski Instytut Bezpieczeństwa AI i Meridian Labs opublikowały 30 września Inspect, otwartoźródłowe narzędzie z ponad 200 gotowymi ewaluacjami. To kolejna w serii otwartych premier, obok modelu mowy Phonon-2 od Fermion Research i Nvidii Kumo Tabular.

AI i modeleAnalizaAnna KaczmarekOpublikowano: 30 września 20263 min czytaniaŹródła 7
Otwarte wagi wciąż wychodzą: Inspect, Phonon-2, Kumo Tabular i ochotniczy model 145 000 000M

Premiera odbyła się 30 września o 15:20 UTC, jak podaje strona projektu. Inspect to framework do ewaluacji modeli frontier, zbudowany przez brytyjski Instytut Bezpieczeństwa AI i Meridian Labs. Obiecuje szeroki zakres: kodowanie, zadania agentowe, rozumowanie, wiedzę, zachowanie i rozumienie wielomodalne, wszystko w jednym narzędziu.

Framework dostarcza komponowalne zbiory danych, agentów, narzędzia i skorery oraz bibliotekę ponad 200 gotowych ewaluacji. Jest przeglądarkowe narzędzie Inspect View i rozszerzenie do VS Code. Niezaufany kod modeli działa w piaskownicy Dockera, Kubernetesa, Modala, Proxmoxa lub Vagranta przez API rozszerzeń. Projekt twierdzi, że obsługuje ponad 20 dostawców modeli, w tym lokalne wnioskowanie z HuggingFace, vLLM i SGLang.

Narzędzia do ewaluacji to ta mniej efektowna połowa otwartych wag. Wagi bez sposobu na ich zmierzenie są tylko plikami.

Model mowy 164 MB i model tabelaryczny, który nie wymaga treningu

Fermion Research wydał Phonon-2 30 września i nazywa go najdokładniejszym otwartym modelem rozpoznawania mowy poniżej 900 MB. Plik waży 164 MB. Firma podaje średni błąd słowa 5,21 procent na siedmiu zestawach angielskich z Open ASR Leaderboard i twierdzi, że każdy otwarty model z lepszym wynikiem jest co najmniej 5,8 razy większy.

Koder zapisuje każdą wagę jako jeden z pięciu wyuczonych poziomów, około 2,1 bita, upakowanych w cyfry o podstawie 3, po pięć na bajt. Wagi są na licencji CC-BY-4.0, tej samej co Nvidia Parakeet TDT 0.6B v3, z którego pochodzą. Fermion twierdzi, że godzina dźwięku zamienia się w tekst w około 20 sekund na MacBooku Air, a na H100 w partiach po 128 to 13 sekund na dzień nagrania.

Wkład Nvidii to inny rodzaj kompresji. Kumo Tabular, opublikowany na Hugging Face 29 września, przewiduje etykiety z oznaczonej tabeli w jednym przejściu do przodu, bez treningu, dostrajania i inżynierii cech, zarówno do klasyfikacji, jak i regresji. Występuje w trzech rozmiarach od 28 000 000 do 215 000 000 parametrów, był wstępnie trenowany wyłącznie na danych sztucznych i jest wydany na licencji OpenMDW-1.1 do użytku komercyjnego. Nvidia twierdzi, że zajmuje pierwsze miejsce w TabArena, BeyondArena, TALENT i ScoringBench.

Ochotnicy, Rust i model 145 000 000 trenowany na zadaniach cron

Mniejsze projekty też ruszają. Coop, projekt na GitHubie aktualizowany 30 września, wstępnie trenuje dekoderowy transformer o około 145 000 000 parametrów na FineWeb-Edu, korzystając z oddanego sprzętu konsumenckiego i darmowych planów Hugging Face i GitHub Actions. Pseudogradienty przychodzą jako pull requesty do publicznego repozytorium zbioru danych. Bezstanowe zadanie cron GitHub Actions scala je zewnętrznym krokiem w stylu DiLoCo co pięć minut, przynajmniej w teorii, bo projekt zauważa, że harmonogram GitHuba uruchamia się od kilku minut do kilku godzin później. Etap 1, model 15 000 000 na TinyStories, przekroczył optymalny budżet Chinchilli w sześć dni i zbił stratę walidacyjną z 9,01 do 2,8.

Osobno projekt w Ruście o nazwie PSSA, również aktualizowany 30 września, opisuje architekturę nietransformerową z selektywną rekurencją przestrzeni stanów, bankiem pamięci epizodycznej i aktualizacjami wag na token. Autor twierdzi, że uczy się szybciej niż transformer przy tych samych parametrach i generuje około dwanaście razy szybciej na tym samym procesorze. W repozytorium nie ma niezależnego benchmarku.

Otwarte premiery tego tygodnia przypadają na trudniejszy okres regulacyjny. The Guardian poinformował 30 września, że FTC wszczęła branżowe śledztwo wobec Anthropic, OpenAI i innych firm, pierwsze oficjalne działanie egzekucyjne USA dotyczące zbuntowanych agentów AI. Ars Technica podała tego samego dnia, że OpenAI opóźnia IPO z powodu obaw o bezpieczeństwo. Otwarte wagi nie są przedmiotem żadnego z tych działań, ale ta kontrola nadaje ton wszystkiemu, co wychodzi obok nich.

Komentarze 0

Źródła

7
  1. 01Inspect: An open-source framework for large language model evaluationsEN
  2. 02Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
  3. 03Nvidia Kumo Tabular: Open Foundation Model for Tabular PredictionEN
  4. 04Coop: A small language model pretrained by volunteersEN
  5. 05PSSA: A non-transformer language model written from scratch in RustEN
  6. 06US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
  7. 07OpenAI delays IPO over AI safety concernsEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Anna Kaczmarek

Anna Kaczmarek

AI, modele i technologie

Anna Kaczmarek pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, repozytoriach i danych źródłowych, a nie na komunikatach prasowych. Przy testach modeli sprawdza karty techniczne, parametry wejściowe i liczy wyniki na tych samych zbiorach, zamiast powtarzać liczby od producentów. Czeka na premiery API i aktualizacje wag, rozmawia z inżynierami oraz porównuje wersje modeli pod kątem kosztów i opóźnień. Prywatnie self-hostuje usługi i konfiguruje sieci domowe, więc do redakcji wnosi praktykę z własnego serwera. Nie publikuje zapowiedzi ani parametrów, których nie może odtworzyć na własnym środowisku.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.