Rassegna open weights: Nvidia Kumo Tabular guida una settimana di rilasci piccoli e aperti
Nvidia ha pubblicato Kumo Tabular il 30 settembre, un modello di base aperto per la previsione su dati tabellari che, secondo l'azienda, non richiede addestramento, messa a punto né ingegneria delle feature e si piazza primo in quattro benchmark. Arriva in una settimana affollata di rilasci open weight, da un modello vocale da 164 MB a un modello linguistico da 145.000.000 di parametri preaddestrato da volontari.

Kumo Tabular di Nvidia è il nome più importante del lotto, ma non è un modello linguistico. Data una tabella con righe etichettate, predice le etichette delle nuove righe in un solo passaggio in avanti. L'azienda dice che esce in tre dimensioni, da 28.000.000 a 215.000.000 di parametri, ed è stato preaddestrato solo su dati artificiali. È distribuito con licenza OpenMDW-1.1 per uso commerciale, e Nvidia rivendica il primo posto su TabArena, BeyondArena, TALENT e ScoringBench.
Modelli piccoli, download piccoli
L'artefatto più notevole della settimana non è il più capace. Fermion Research ha pubblicato Phonon-2 il 30 settembre, un modello aperto di riconoscimento vocale in inglese che sta in un download da 164 MB. L'azienda dice che arriva a una media del 5,21 per cento di word error sui sette insiemi inglesi della Open ASR Leaderboard, e che ogni modello aperto con un punteggio migliore è almeno 5,8 volte più grande. I pesi sono CC-BY-4.0, derivati da Parakeet TDT 0.6B v3 di Nvidia.
Le dichiarazioni ingegneristiche sono precise: ogni peso dell'encoder è memorizzato come uno di cinque livelli appresi, circa 2,1 bit per peso, impacchettati come cifre in base 3, cinque per byte. Su un MacBook Air, secondo Fermion, un'ora di audio diventa testo in circa 20 secondi. Al fondo dello spettro open weight, quel compromesso tra dimensione e accuratezza è tutta la proposta.
Intanto un progetto di volontari chiamato Coop ha pubblicato un transformer decoder-only da 145.000.000 di parametri preaddestrato senza server né finanziamenti, secondo il suo repository GitHub. L'impostazione è insolita: i worker scaricano un checkpoint da Hugging Face, eseguono passi AdamW locali su una porzione personale dei dati e inviano uno pseudo-gradiente come pull request contro un repository pubblico di dataset su Hugging Face. Un cron job di GitHub Actions aggrega le sottomissioni ogni cinque minuti, anche se il README avverte che lo scheduler condiviso di GitHub parte a distanza di minuti o di qualche ora.
La fase precedente di Coop, un modello da 15.000.000 di parametri addestrato su TinyStories da volontari in sei giorni, ha portato la validation loss da 9,01 a 2,8. La documentazione del progetto è prudente su cosa dimostri: una singola validation loss non dice nulla, quindi la classifica calcola una pendenza sulla serie, rispetto ai token e non ai passi esterni, e la riporta con un errore standard.
Strumenti e chip
Anche il livello infrastrutturale si è mosso. Il UK AI Security Institute e Meridian Labs hanno pubblicato Inspect il 30 settembre, un framework open source per le valutazioni di frontiera dell'IA. Include oltre 200 valutazioni già pronte, uno strumento web Inspect View, un'estensione per VS Code e un sistema di sandboxing che esegue codice di modello non fidato in Docker, Kubernetes, Modal, Proxmox o Vagrant. Supporta più di 20 fornitori di modelli, oltre all'inferenza locale con HuggingFace, vLLM e SGLang.
Il tempismo conta perché la valutazione è ormai un tema politico. Il 30 settembre The Guardian ha riferito che la Federal Trade Commission statunitense ha aperto un'indagine di settore su Anthropic, OpenAI e altri laboratori di IA, la sua prima azione ufficiale di enforcement che tocca agenti di IA fuori controllo. La FTC intende ottenere testimonianze dai dirigenti di Anthropic, OpenAI e del gruppo di ricerca Metr, secondo diverse fonti citate dal giornale. Tutti e tre hanno rifiutato di commentare con The Guardian. La notizia è stata riportata per prima dal New York Post.
Poi c'è il livello dei chip. Deepseek sta rilasciando strumenti di programmazione open source per i chip Ascend di Huawei, secondo un post sul canale WeChat ufficiale dell'azienda, come riportato da The Decoder il 30 settembre. Il pezzo centrale è TileLang, un linguaggio di programmazione sviluppato in origine da ricercatori della Peking University, che secondo Deepseek offre un modello più semplice di CUDA di Nvidia. Reuters ha riferito che il software include librerie di calcolo e di movimento dei dati, e che Deepseek le rende tutte open source. Deepseek dice che Huawei ha sostenuto pienamente il lavoro, e i due hanno ottimizzato un supernodo di 128 chip Ascend 950.
Non tutti accettano questa lettura. La società di ricerca SemiAnalysis ha testato il chip di inferenza Jalapeno di OpenAI e ha definito il fossato di CUDA "potenzialmente morto", pur avvertendo che ha testato solo scenari con circa 8.000 token in input e 1.000 in output, e che non ha ancora eseguito il suo benchmark AgentX. Ad agosto la stessa società aveva trovato Nvidia ben avanti sui carichi di lavoro per agenti.
Cosa i rilasci non chiariscono
Pesi aperti non significano processo aperto. L'aggregatore di Coop scarta le sottomissioni troppo vecchie e limita le altre con una media troncata o una mediana geometrica prima di un singolo passo di Nesterov. Il sandboxing di Inspect esiste proprio perché il codice dei modelli non è affidabile. La licenza di Phonon-2 deriva dal modello di un'altra azienda.
E l'accordo non è l'accuratezza. Jevstiller, uno strumento open source di cui ha parlato The Register il 29 settembre, distilla gli output di Jev in un modello locale e dichiara il 98 per cento di accordo con il servizio a monte, rispondendo a richieste familiari in appena 15 ms. Gli sviluppatori sono espliciti nella loro documentazione: "Agreement is not accuracy." Quella frase potrebbe stare sotto gran parte dei rilasci di questa settimana.
Lo sfondo politico è ancora meno definito. Il CEO di OpenAI Sam Altman ha detto ai giornalisti durante il developer day dell'azienda, martedì, che non quoterà la società in borsa finché non potrà "prendere decisioni di sicurezza con fiducia", secondo Ars Technica. L'azienda è in trattative per raccogliere 30.000.000.000 di dollari o più a una valutazione di circa 1.400.000.000.000 di dollari, ha riportato Ars Technica citando persone vicine al dossier, e l'obiettivo dei 30.000.000.000 di dollari è stato riportato per primo da Bloomberg. BBC News ha riferito dello stesso evento, notando che Altman ha definito i nuovi agenti chiamati dots "agenti sempre attivi, straordinariamente capaci, in grado di gestire davvero qualsiasi cosa si possa immaginare".
C'è una versione di questa settimana in cui i pesi aperti sono semplicemente distribuzione a costi più bassi. Nvidia vuole Kumo Tabular nelle pipeline aziendali. Fermion vuole Phonon-2 sui portatili. Deepseek vuole che il silicio di Huawei abbia software. Coop vuole mostrare che il ciclo di addestramento può girare su hardware donato. Il filo comune non è l'ideologia ma l'aritmetica: artefatti più piccoli, meno token spesi, meno infrastruttura da affittare.
Se quell'aritmetica migliori la sicurezza è una questione separata, e questa settimana non ha offerto una risposta netta.
Fonti
9- 01Nvidia Kumo Tabular: Open Foundation Model for Tabular PredictionEN
- 02Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
- 03Coop: A small language model pretrained by volunteersEN
- 04Inspect: An open-source framework for large language model evaluationsEN
- 05US trade regulator opens investigation into AI giantsEN
- 06China's AI industry closes ranks as Deepseek ships open-source software for Huawei's Ascend chipsEN
- 07Jevstiller: Open-source tool distills Jev so you can run it locallyEN
- 08OpenAI delays IPO over AI safety concernsEN
- 09OpenAI unveils AI assistant 'dots' while safety worries delay new modelEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.