Rassegna dei pesi aperti: Kumo Tabular di Nvidia guida una settimana di rilasci piccoli e aperti

Kumo Tabular di Nvidia è il nome più grande del lotto, ma non è un modello linguistico. Riceve in ingresso una tabella con righe etichettate e prevede le etichette delle nuove righe in un solo passaggio in avanti. L'azienda dice che esce in tre dimensioni, da 28M a 215M di parametri, ed è stato preaddestrato solo su dati artificiali. La licenza è OpenMDW-1.1, per uso commerciale, e Nvidia rivendica il primo posto su TabArena, BeyondArena, TALENT e ScoringBench.

Modelli piccoli, download piccoli

L'artefatto più sorprendente della settimana non è il più capace. Fermion Research ha pubblicato Phonon-2 il 30 settembre, un modello aperto di riconoscimento vocale in inglese che sta in un download da 164 MB. L'azienda dice che arriva a una media del 5,21 per cento di word error sui sette set inglesi della Open ASR Leaderboard, e che ogni modello aperto con un punteggio migliore è almeno 5,8 volte più grande. I suoi pesi sono CC-BY-4.0, derivati da Parakeet TDT 0.6B v3 di Nvidia.

Le affermazioni ingegneristiche sono precise: ogni peso dell'encoder è memorizzato come uno di cinque livelli appresi, circa 2,1 bit per peso, impacchettati come cifre in base 3, cinque per byte. Su un MacBook Air, dice Fermion, un'ora di audio diventa testo in circa 20 secondi. All'estremità bassa dello spettro dei pesi aperti, questo compromesso tra dimensione e accuratezza è tutto il messaggio.

Nel frattempo, un progetto di volontari chiamato Coop ha pubblicato un transformer decoder-only da 145M di parametri preaddestrato senza server né finanziamenti, secondo il suo repository GitHub. L'impostazione è insolita: i worker scaricano un checkpoint da Hugging Face, eseguono passi AdamW locali su una partizione personale dei dati e inviano uno pseudo-gradiente come pull request contro un repository pubblico di dataset su Hugging Face. Un cron job di GitHub Actions aggrega le submission ogni cinque minuti, anche se il README nota che lo scheduler condiviso di GitHub parte a intervalli che vanno da pochi minuti a qualche ora.

La fase precedente di Coop, un modello da 15M di parametri addestrato su TinyStories da volontari in sei giorni, ha portato la validation loss da 9,01 a 2,8. La documentazione del progetto è prudente su cosa dimostri: una singola validation loss non dice nulla, quindi la classifica calcola una pendenza sulla serie, in funzione dei token e non dei passi esterni, e la riporta con un errore standard.

Strumenti e chip

Anche lo strato infrastrutturale si è mosso. Il UK AI Security Institute e Meridian Labs hanno pubblicato Inspect, un framework open source per le valutazioni di frontiera dell'IA, il 30 settembre. Include oltre 200 valutazioni già pronte, uno strumento web Inspect View, un'estensione per VS Code e un sistema di sandboxing che esegue codice di modello non attendibile in Docker, Kubernetes, Modal, Proxmox o Vagrant. Supporta più di 20 fornitori di modelli, oltre all'inferenza locale con HuggingFace, vLLM e SGLang.

Il momento conta perché la valutazione è ormai una questione politica. Il 30 settembre, The Guardian ha riferito che la Federal Trade Commission statunitense ha aperto un'indagine su tutto il settore verso Anthropic, OpenAI e altri laboratori di IA, la sua prima azione ufficiale di enforcement che tocca agenti di IA fuori controllo. La FTC intende obbligare a testimoniare i dirigenti di Anthropic, OpenAI e del gruppo di ricerca Metr, secondo diversi rapporti citati dal giornale. Tutti e tre hanno rifiutato di commentare con The Guardian. Il New York Post ha riportato la notizia per primo.

Poi c'è lo strato dei chip. Deepseek sta rilasciando strumenti di programmazione open source per i chip Ascend di Huawei, secondo un post sul canale WeChat ufficiale dell'azienda, come riportato da The Decoder il 30 settembre. Il pezzo centrale è TileLang, un linguaggio di programmazione sviluppato originariamente da ricercatori della Peking University, che secondo Deepseek offre un modello più semplice di CUDA di Nvidia. Reuters ha riferito che il software include librerie di calcolo e di movimento dei dati, e che Deepseek rende tutto open source. Deepseek dice che Huawei ha sostenuto pienamente il lavoro, e i due hanno ottimizzato un supernodo di 128 chip Ascend 950.

Non tutti accettano questa lettura. La società di ricerca SemiAnalysis ha testato il chip di inferenza Jalapeno di OpenAI e ha definito il fossato di CUDA "potenzialmente morto", pur avvertendo che ha testato solo scenari con circa 8.000 token in input e 1.000 in output, e che non ha ancora eseguito il suo benchmark AgentX. In agosto, la stessa società aveva trovato Nvidia nettamente avanti sui carichi di lavoro per agenti.

Cosa non chiariscono i rilasci

Pesi aperti non significa processo aperto. L'aggregatore di Coop scarta le submission troppo vecchie e taglia le altre con una media trimmed o una mediana geometrica prima di un singolo passo di Nesterov. Il sandboxing di Inspect esiste proprio perché il codice dei modelli non è affidabile. La licenza di Phonon-2 eredita da un modello di un'altra azienda.

E l'accordo non è l'accuratezza. Jevstiller, uno strumento open source di cui ha parlato The Register il 29 settembre, distilla gli output di Jev in un modello locale e riporta il 98 per cento di accordo con il servizio a monte, rispondendo a richieste familiari in appena 15 ms. Gli sviluppatori sono espliciti nella loro documentazione: "L'accordo non è l'accuratezza." Quella frase potrebbe stare sotto quasi tutti i rilasci di questa settimana.

Lo sfondo politico è ancora meno definito. Il chief executive di OpenAI Sam Altman ha detto ai giornalisti al developer day dell'azienda di martedì che non quoterà la società finché non potrà "prendere decisioni di sicurezza con fiducia", secondo Ars Technica. L'azienda è in trattative per raccogliere 30 miliardi di dollari o più a una valutazione di circa 1.400 miliardi di dollari, ha riferito Ars Technica, citando persone vicine alla questione, e l'obiettivo di 30 miliardi di dollari è stato riportato per primo da Bloomberg. BBC News ha riferito dello stesso evento, notando che Altman ha definito i nuovi agenti chiamati dots "agenti straordinariamente capaci, sempre attivi, che possono gestire davvero qualsiasi cosa vi venga in mente".

C'è una versione di questa settimana in cui i pesi aperti sono semplicemente distribuzione più economica. Nvidia vuole Kumo Tabular dentro le pipeline aziendali. Fermion vuole Phonon-2 sui portatili. Deepseek vuole che il silicio di Huawei abbia software. Coop vuole dimostrare che il ciclo di addestramento può girare su hardware donato. Il filo comune non è l'ideologia ma l'aritmetica: artefatti più piccoli, meno token spesi, meno infrastruttura da affittare.

Se quell'aritmetica migliori la sicurezza è una domanda separata, e questa settimana non ha offerto una risposta netta.