Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

I pesi aperti continuano ad arrivare: un modello vocale da 164 MB, una corsa volontaria da 145.000.000M e l'alternativa cinese a CUDA

Nvidia ha pubblicato Kumo Tabular, un modello di base aperto per le previsioni su dati tabellari, in un post su Hugging Face datato 29 settembre, mentre Fermion Research ha rilasciato il modello vocale Phonon-2 da 164 MB un giorno dopo. Entrambi arrivano mentre la FTC apre un'indagine su tutto il settore dei laboratori di intelligenza artificiale e OpenAI rimanda la propria IPO.

IA e modelliAnalisiGiulia FerrariPubblicato: 30 settembre 20263 min di letturaFonti 6
I pesi aperti continuano ad arrivare: un modello vocale da 164 MB, una corsa volontaria da 145.000.000M e l'alternativa cinese a CUDA

Nvidia ha messo Kumo Tabular su Hugging Face il 29 settembre. Il post, datato 29 settembre e pubblicato sul blog il 30 settembre, spiega che il modello prevede le etichette per nuove righe in un solo passaggio in avanti, senza addestramento, senza messa a punto e senza ingegneria delle feature. È disponibile in tre dimensioni, da 28.000.000 a 215.000.000 di parametri, è stato preaddestrato solo su dati artificiali e viene distribuito con licenza OpenMDW-1.1 per uso commerciale. L'azienda afferma che è primo su TabArena, BeyondArena, TALENT e ScoringBench.

L'affermazione è circoscritta, e Nvidia la inquadra in modo altrettanto stretto: classificazione e regressione su dati tabellari, le tabelle che contengono anagrafiche dei clienti, transazioni e registri dei sensori. La proposta è l'apprendimento in contesto applicato alle righe invece che al testo. Un modello preaddestrato su milioni di tabelle legge una tabella etichettata come contesto e restituisce probabilità di classe oppure 999 quantili per la regressione, da cui derivano una previsione puntuale e una stima dell'incertezza.

Fermion Research ha rilasciato Phonon-2 il 30 settembre, definendolo il modello di riconoscimento vocale aperto più accurato sotto i 900 MB.

Il download è di 164 MB, l'encoder memorizza ogni peso in circa 2,1 bit e i pesi sono sotto CC-BY-4.0, la licenza di Parakeet TDT 0.6B v3 di Nvidia, da cui derivano. Fermion riporta un tasso medio di errore sulle parole del 5,21 % sui sette insiemi inglesi della Open ASR Leaderboard e afferma che ogni modello aperto con un punteggio migliore è almeno 5,8 volte più grande. Su un MacBook Air trasforma un'ora di audio in testo in circa 20 secondi. Sono numeri forniti dall'azienda in una pagina dell'azienda, quindi la posizione in classifica va considerata dichiarata, non confermata in modo indipendente.

Volontari e un cron job senza stato

Sempre il 30 settembre è partito un progetto su GitHub chiamato Coop con una corsa di fase 2: un transformer decoder-only da circa 145.000.000 di parametri preaddestrato da zero su FineWeb-Edu, eseguito interamente su hardware di consumo donato più i piani gratuiti di Hugging Face e GitHub Actions. Non c'è nessun server e nessun demone. I worker scaricano un checkpoint, eseguono passi AdamW locali su una porzione personale dei dati e inviano uno pseudo-gradiente come pull request su un repository pubblico di dataset.

Un cron job stateless di GitHub Actions aggrega a ogni ciclo: scarta le sottomissioni troppo vecchie, ritaglia e applica un filtro coseno alle restanti, le aggrega, compie un passo esterno di Nesterov e carica un nuovo checkpoint. Il repository sostiene che un modello di fase 1 da 15.000.000 di parametri è stato preaddestrato oltre il suo budget ottimale secondo Chinchilla su TinyStories in sei giorni, con la loss di validazione scesa da 9,01 a 2,8. È una prova di funzionamento, non un modello competitivo.

La spinta della Cina è la storia strategica più grande. Deepseek ha rilasciato strumenti di programmazione open source per i chip Ascend di Huawei, secondo un post sul suo canale WeChat riportato da The Decoder il 30 settembre e da Reuters. Il pezzo centrale è TileLang, un linguaggio open source sviluppato originariamente all'Università di Pechino, che secondo Deepseek offre un modello di programmazione più semplice di CUDA. Huawei ha "pienamente supportato" il lavoro, ha detto Deepseek, e le due aziende hanno ottimizzato un supernodo di 128 chip Ascend 950.

Il contesto è il fossato di Nvidia tra gli sviluppatori: circa quattro milioni di sviluppatori CUDA. The Decoder cita anche SemiAnalysis, che ha testato il chip di inferenza Jalapeno di OpenAI e ha definito il fossato CUDA "potenzialmente morto", avvertendo però che ha testato solo scenari relativamente facili, con circa 8.000 token di input e 1.000 token di output. I chip di Huawei non facevano parte di quel confronto.

I regolatori si muovono mentre i pesi vengono distribuiti

Niente di tutto questo accade nel vuoto. Il Guardian ha riportato il 30 settembre che la FTC sta conducendo un'indagine su tutto il settore di Anthropic, OpenAI e altri laboratori, con l'intenzione di obbligare a testimoniare dirigenti tra cui quelli di Metr. Il New York Post ne ha dato per primo notizia. OpenAI, intanto, frena la propria quotazione: Ars Technica ha riportato il 30 settembre che Sam Altman non andrà in borsa finché l'azienda non potrà "prendere decisioni sicure con fiducia", e che LASST ha depositato una causa in California lo stesso giorno.

I rilasci di pesi aperti citati sopra sono piccoli, economici e specifici. È questo lo schema da osservare, non le tabelle dei benchmark.

Commenti 0

Fonti

6
  1. 01Nvidia Kumo Tabular: Open Foundation Model for Tabular PredictionEN
  2. 02Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
  3. 03Coop: A small language model pretrained by volunteersEN
  4. 04China's AI industry closes ranks as Deepseek ships open-source software for Huawei's Ascend chipsEN
  5. 05US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
  6. 06OpenAI delays IPO over AI safety concernsEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Giulia Ferrari

Giulia Ferrari

IA, modelli e tecnologie

Giulia Ferrari scrive di tecnologia, IA e modelli e media e internet per FLASH24, partendo da dataset pubblici, preprint e registri di versioni dei modelli. Controlla ogni numero confrontando benchmark dichiarati e risultati riproducibili, e scarta le stime senza fonte. Segue le audizioni in calendario, parla con ricercatori e ingegneri, e mette a confronto release e changelog prima di pubblicare. Fuori dalla redazione smonta stampanti 3D, recupera vecchi computer e studia come i modelli imparano dai rifiuti del web. Non pubblica un dato se non può ricostruirne il percorso.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.