Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

I pesi aperti salgono di livello: progettazione di chip, voce e modelli tabellari nella stessa settimana

OpenAI e Synopsys hanno firmato il 30 settembre un accordo pluriennale per costruire GPT-Synopsys, un modello specializzato per la progettazione di chip. È uno dei almeno cinque rilasci e partnership di modelli aperti o descritti apertamente arrivati negli ultimi giorni di settembre.

IA e modelliAnalisiChiara RomanoPubblicato: 30 settembre 20268 min di letturaFonti 7
I pesi aperti salgono di livello: progettazione di chip, voce e modelli tabellari nella stessa settimana

La novità più recente nel lavoro sui modelli aperti non è un punteggio di benchmark. È un contratto. Il 30 settembre OpenAI e Synopsys hanno annunciato di aver firmato una partnership strategica pluriennale per costruire un modello di intelligenza artificiale specializzato nella progettazione di chip, chiamato GPT-Synopsys, secondo The Decoder. Synopsys vende strumenti di automazione della progettazione elettronica, il software che gli ingegneri usano per disporre i circuiti. OpenAI concede in licenza questi strumenti per il progetto.

L'obiettivo dichiarato è un modello capace di "ragionare sulla progettazione e la verifica dei chip e di azionare direttamente gli strumenti di Synopsys". Le due aziende dicono che i primi test con clienti del settore dei semiconduttori sono in corso, che i dati dei clienti non saranno usati per l'addestramento e saranno conservati cifrati, e che commercializzeranno il prodotto insieme condividendo i ricavi. Il CEO di Synopsys Sassine Ghazi afferma che l'IA potrebbe accelerare in modo significativo il processo di progettazione. Il cofondatore di OpenAI Greg Brockman presenta l'accordo come una via verso chip migliori e un'IA migliore.

Questo è un modello chiuso dentro una filiera commerciale. La stessa settimana ha prodotto un tipo di rilascio molto diverso.

Modelli piccoli, file piccoli, dichiarazioni roboanti

Fermion Research ha rilasciato Phonon-2 il 30 settembre, descrivendolo come il modello aperto di riconoscimento vocale più accurato sotto i 900 MB. Con un download da 164 MB, secondo l'azienda, eguaglia l'accuratezza del suo modello insegnante a precisione piena da 2,5 GB prova per prova, lo supera su riunioni e discorsi parlamentari, e trasforma un'ora di audio in testo in circa 20 secondi su un MacBook Air. I pesi sono su Hugging Face con licenza CC-BY-4.0, la stessa del Parakeet TDT 0.6B v3 di NVIDIA, da cui derivano.

Il numero interessante è 5,21. Sui sette set inglesi della Open ASR Leaderboard, Phonon-2 ha una media del 5,21 per cento di word error rate, e ogni modello aperto che ottiene un punteggio migliore è almeno 5,8 volte più grande, secondo il comunicato dell'azienda. Ogni peso dell'encoder è memorizzato come uno di cinque livelli appresi, impacchettati come cifre in base 3, cinque per byte, con un ulteriore bit per ogni peso non nullo che ne seleziona la grandezza. Si arriva a circa 2,1 bit per peso memorizzato. L'azienda dice che il vantaggio regge sotto il rumore, da una stanza silenziosa a un rumore di fondo forte quanto chi parla, dove resta davanti a Parakeet Redux.

Nel dossier non c'è alcuna verifica indipendente. Considerate la posizione in classifica e la dichiarazione sul rumore come numeri del fornitore finché qualcuno non li riproduce.

Altrove lo stesso giorno, NVIDIA ha messo il suo modello di base per dati tabellari su Hugging Face. NVIDIA Kumo Tabular è un modello di base aperto per dati tabellari che predice le etichette di nuove righe in un solo passaggio in avanti, senza addestramento, senza messa a punto e senza ingegneria delle feature, sia per la classificazione sia per la regressione. È stato preaddestrato solo su dati artificiali, esiste in tre dimensioni da 28.000.000 a 215.000.000 di parametri, funziona tramite la libreria open source structured-data-models di NVIDIA, ed è rilasciato con licenza OpenMDW-1.1 per uso commerciale. NVIDIA dice che è primo su quattro benchmark: TabArena, BeyondArena, TALENT e ScoringBench.

I dettagli dell'architettura contano meno dell'inquadramento. Il lavoro sui dati tabellari è dominato da due decenni dagli alberi potenziati per gradiente, e la proposta di NVIDIA è che un transformer preaddestrato possa leggere una tabella etichettata nel contesto e saltare il ciclo per singolo compito fatto di raccolta di etichette, ingegneria delle feature e messa a punto degli iperparametri. Il modello usa attenzione su colonne, righe e contesto sulla scia di TabICL e TabPFN, con una temperatura di attenzione consapevole della lunghezza, così che l'attenzione softmax non si dissolva quando una tabella di inferenza è molto più grande di una tabella di addestramento. I valori mancanti non richiedono imputazione.

Pesi aperti da volontari e da un istituto statale

Due rilasci del 30 settembre sono arrivati senza alcuna azienda dietro, o con una azienda di Stato. Coop è un piccolo modello linguistico preaddestrato da volontari, senza server, senza finanziamenti e senza demone. Il ciclo di addestramento gira su hardware di consumo donato più i livelli gratuiti di Hugging Face e GitHub Actions, secondo il suo repository GitHub. La fase 2 è attiva: un transformer solo decoder da circa 145.000.000 di parametri preaddestrato da zero su FineWeb-Edu, con 12 strati, 14 teste, d=896, un contesto di 1.024 token e un vocabolario BPE a livello di byte da 32.000. La fase 1, un modello da 15.000.000 su TinyStories, si è conclusa oltre il suo budget ottimale secondo Chinchilla con la perdita di validazione che è scesa da 9,01 a 2,8 in sei giorni.

Il meccanismo è la storia. I worker scaricano il checkpoint corrente, eseguono passi AdamW locali su una porzione personale di dati, calcolano uno pseudo-gradiente e lo inviano come pull request contro un repository pubblico di dataset su Hugging Face. Un job cron di GitHub Actions senza stato, programmato ogni cinque minuti ma in pratica eseguito a intervalli che vanno da pochi minuti a qualche ora, legge il checkpoint e le pull request aperte nella casella di posta, scarta gli invii troppo vecchi, ritaglia e applica un gate coseno al resto, li aggrega con media trimmata o mediana geometrica, fa un passo esterno di Nesterov, carica il nuovo checkpoint, accredita i contributori nel registro e chiude le pull request elaborate.

Il repository è schietto sulla valutazione. Una singola perdita di validazione non dice nulla, perché i passi esterni la spostano verso l'alto tanto spesso quanto verso il basso, così la classifica adatta una pendenza sulla serie rispetto ai token invece che ai passi esterni e la riporta con un errore standard. "In discesa" significa che la pendenza supera due errori standard. È una regola di rendicontazione più onesta di quanto riescano a fare la maggior parte dei laboratori finanziati.

Lo stesso giorno, il UK AI Security Institute e Meridian Labs hanno pubblicato Inspect, un framework open source per le valutazioni di frontiera dell'IA. Inspect copre programmazione, compiti agentici, ragionamento, conoscenza, comportamento e comprensione multimodale, e viene fornito con oltre 200 valutazioni predefinite. I suoi elementi costitutivi sono dataset, solver e scorer. Supporta il tool calling inclusi gli strumenti MCP e gli strumenti integrati bash, python, ricerca web e computer, esegue agenti esterni arbitrari come Claude Code, Codex CLI e Gemini CLI, e isola in sandbox il codice non fidato dei modelli in Docker, Kubernetes, Modal, Proxmox e Vagrant tramite un'API di estensione. Il tempismo è mirato. Gli strumenti di valutazione di un istituto governativo per la sicurezza arrivano nella stessa settimana in cui un regolatore degli Stati Uniti ha aperto un'indagine di settore sugli agenti di IA che si comportano male.

I pesi aperti entrano nella filiera dei chip cinese

Deepseek sta rilasciando strumenti di programmazione open source per i chip di IA di Huawei, secondo un post sul canale WeChat ufficiale di Deepseek, con Reuters che riporta l'apertura del codice. Il pezzo centrale è TileLang, un linguaggio di programmazione open source per chip di IA sviluppato originariamente da ricercatori della Peking University, che Deepseek ha usato per circa un anno e che ora descrive come il suo strumento principale per il lavoro sull'intelligenza artificiale generale, secondo The New York Times.

Il software include librerie per il calcolo e per spostare dati tra i chip. Secondo Deepseek, Huawei ha "pienamente sostenuto" il lavoro, e le due aziende hanno ottimizzato un supernodo, un cluster di 128 chip Ascend 950. Deepseek sostiene che chiunque provi a costruire un ecosistema software indipendente per i chip di IA abbia prima bisogno di un linguaggio universale facile da programmare ma capace di ottenere comunque le piene prestazioni dall'hardware, e dice che TileLang offre un modello di programmazione più semplice di CUDA.

Questo si collega a un argomento più ampio su dove risieda il vantaggio di Nvidia. La società di ricerca SemiAnalysis, dopo aver testato il chip di inferenza Jalapeno di OpenAI, ha definito il fossato di CUDA "potenzialmente morto" perché OpenAI riesce a far girare nuovi modelli sul proprio hardware così rapidamente, e ha detto che Jalapeno ha battuto il Blackwell di Nvidia sulle prestazioni per watt nella maggior parte degli scenari testati. SemiAnalysis ha aggiunto le proprie avvertenze: i test coprivano scenari relativamente facili da ottimizzare, con circa 8.000 token di input e 1.000 token di output, e non ha ancora eseguito AgentX, il benchmark per compiti agentici a più passaggi. In agosto, SemiAnalysis aveva trovato Nvidia ben avanti su quel benchmark, e aveva detto che Nvidia sarebbe rimasta più economica per token di AMD anche se AMD avesse regalato il proprio hardware, perché il vantaggio sta nel software che collega molti chip in un unico sistema. I chip di Huawei non facevano parte del confronto AgentX.

C'è anche un punto di pressione interno. Huawei ammette di non riuscire a stare dietro alla domanda in patria, così prevede di vendere meno chip all'estero. Riferendosi ai controlli sulle esportazioni statunitensi, l'attuale presidente a rotazione di Huawei Eric Xu ha detto che l'azienda non può accettare un futuro che dipenda dalla volontà altrui di vendere chip alla Cina.

Cosa tenere d'occhio

Lo schema che attraversa questi rilasci è che i pesi aperti non sono più confinati ai checkpoint dei chatbot. Arrivano come encoder vocali abbastanza piccoli per un portatile, predittori tabellari pensati per le tabelle aziendali, harness di valutazione da un ente statale per la sicurezza, cicli di addestramento volontari che girano su livelli gratuiti, e ora strumenti di programmazione per una filiera di acceleratori non Nvidia.

Due cose restano irrisolte. Primo, le dichiarazioni sui benchmark di Phonon-2 e Kumo Tabular in questo dossier sono del fornitore o dei manutentori, e nessuno dei tre rilasci di modelli ha una riproduzione indipendente allegata. Secondo, il quadro normativo si muove nella direzione opposta ai rilasci: l'indagine della FTC su Anthropic, OpenAI e Metr è la prima azione ufficiale di enforcement statunitense che tocca agenti di IA fuori controllo, come ha riportato The Guardian il 30 settembre.

I pesi aperti non risolvono nulla di tutto questo. Spostano solo la discussione su hardware che più persone possono far girare.

Commenti 0

Fonti

7
  1. 01OpenAI and Synopsys team up to build an AI model that designs chips like a seasoned engineerEN
  2. 02Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
  3. 03NVIDIA Kumo Tabular Sets a New Accuracy-Efficiency Frontier for Tabular PredictionEN
  4. 04Coop: A small language model pretrained by volunteersEN
  5. 05Inspect: An open-source framework for large language model evaluationsEN
  6. 06China's AI industry closes ranks as Deepseek ships open-source software for Huawei's Ascend chipsEN
  7. 07US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Chiara Romano

Chiara Romano

IA, modelli e tecnologie

Chiara Romano scrive di tecnologia, IA e modelli, media e internet per FLASH24, partendo da documentazione tecnica, repository e specifiche invece che da comunicati stampa. Per ogni modello o piattaforma che segue controlla versioni, licenze, parametri e benchmark, e verifica i numeri confrontandoli con i dati originali o con test indipendenti. Confronta le schede tecniche tra fornitori, parla con sviluppatori e amministratori di sistema, e tiene d'occhio le finestre di rilascio e le modifiche ai termini d'uso. Fuori dalla redazione gestisce self-hosting e reti domestiche, esperienza che le serve per capire come funzionano davvero i servizi che racconta. Non pubblica una notizia se la fonte primaria non è verificabile.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.