I pesi aperti continuano ad arrivare: Inspect, Phonon-2, Kumo Tabular e un modello volontario da 145 milioni di parametri
Il 30 settembre lo UK AI Security Institute e Meridian Labs hanno pubblicato Inspect, un framework open source con più di 200 valutazioni già pronte. È l'ultimo di una serie di rilasci aperti che comprende anche il modello vocale Phonon-2 di Fermion Research e Kumo Tabular di Nvidia.

Il rilascio è arrivato alle 15:20 UTC del 30 settembre, secondo il sito del progetto. Inspect è un framework per le valutazioni dei modelli di frontiera, costruito dallo UK AI Security Institute e da Meridian Labs, e punta sull'ampiezza: coding, compiti agentici, ragionamento, conoscenza, comportamento e comprensione multimodale, tutto in un unico strumento.
Il framework include dataset, agenti, strumenti e scorer componibili, più una libreria di oltre 200 valutazioni già pronte. C'è uno strumento web, Inspect View, e un'estensione per VS Code. Il sandboxing esegue codice non fidato dei modelli in Docker, Kubernetes, Modal, Proxmox o Vagrant tramite un'API di estensione. Il progetto dichiara il supporto a più di 20 fornitori di modelli, compresa l'inferenza locale con HuggingFace, vLLM e SGLang.
Gli strumenti di valutazione sono la metà meno appariscente dei pesi aperti. Pesi senza un modo per misurarli restano solo file.
Un modello vocale da 164 MB e un modello tabellare che non richiede addestramento
Fermion Research ha pubblicato Phonon-2 il 30 settembre, definendolo il modello di riconoscimento vocale aperto più accurato sotto i 900 MB. Il download pesa 164 MB. L'azienda dichiara un tasso medio di errore sulle parole del 5,21 per cento sui sette insiemi inglesi della Open ASR Leaderboard, e sostiene che ogni modello aperto con un punteggio migliore sia almeno 5,8 volte più grande.
L'encoder memorizza ogni peso come uno di cinque livelli appresi, circa 2,1 bit, impacchettati come cifre in base 3, cinque per byte. I pesi sono sotto licenza CC-BY-4.0, la stessa del Parakeet TDT 0.6B v3 di Nvidia, da cui derivano. Fermion sostiene che un'ora di audio diventa testo in circa 20 secondi su un MacBook Air, e 13 secondi per giorno di audio su una H100 con batch da 128.
Il contributo di Nvidia è un altro tipo di compressione. Kumo Tabular, pubblicato su Hugging Face il 29 settembre, predice le etichette da una tabella annotata in un solo passaggio in avanti, senza addestramento, senza messa a punto e senza feature engineering, per classificazione e regressione. Esce in tre dimensioni da 28 milioni a 215 milioni di parametri, è stato preaddestrato solo su dati artificiali ed è rilasciato con licenza OpenMDW-1.1 per uso commerciale. Nvidia dichiara il primo posto su TabArena, BeyondArena, TALENT e ScoringBench.
Volontari, Rust e un modello da 145 milioni di parametri addestrato su cron job
Anche le iniziative più piccole si muovono. Coop, un progetto su GitHub aggiornato il 30 settembre, sta preaddestrando un transformer decoder-only da circa 145 milioni di parametri su FineWeb-Edu usando hardware di consumo donato e i piani gratuiti di Hugging Face e GitHub Actions. Gli pseudo-gradienti arrivano come pull request su un repository pubblico di dataset; un cron stateless di GitHub Actions li aggrega con un passo esterno in stile DiLoCo ogni cinque minuti in teoria, anche se il progetto nota che lo scheduler di GitHub scatta a intervalli che vanno da pochi minuti a ore. La fase 1, un modello da 15 milioni di parametri su TinyStories, ha superato il budget ottimale di Chinchilla in sei giorni e ha portato la validation loss da 9,01 a 2,8.
A parte, un progetto Rust chiamato PSSA, anch'esso aggiornato il 30 settembre, descrive un'architettura non transformer con una ricorrenza a spazio di stati selettiva, una banca di memoria episodica e aggiornamenti dei pesi per token. L'autore sostiene che impari più in fretta di un transformer a parità di parametri e che generi circa dodici volte più velocemente sulla stessa CPU. Nel repository non c'è alcun benchmark indipendente.
I rilasci aperti della settimana si collocano in uno scenario normativo più duro. Il Guardian ha riportato il 30 settembre che la FTC ha aperto un'indagine su tutto il settore nei confronti di Anthropic, OpenAI e altri, la prima azione ufficiale di enforcement negli Stati Uniti che tocca agenti AI fuori controllo. Ars Technica ha riferito lo stesso giorno che OpenAI sta rinviando la sua IPO per preoccupazioni sulla sicurezza. I pesi aperti non sono oggetto di nessuna delle due azioni, ma il controllo fissa il tono per tutto ciò che viene rilasciato accanto a loro.
Fonti
7- 01Inspect: An open-source framework for large language model evaluationsEN
- 02Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
- 03Nvidia Kumo Tabular: Open Foundation Model for Tabular PredictionEN
- 04Coop: A small language model pretrained by volunteersEN
- 05PSSA: A non-transformer language model written from scratch in RustEN
- 06US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
- 07OpenAI delays IPO over AI safety concernsEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.