Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

Whistle, il riconoscimento vocale in un file da 16,9 MB per telefoni e robot

Cactus Compute ha rilasciato il 3 ottobre Whistle, un modello di riconoscimento vocale che arriva come un singolo file da 16,9 MB e gira su CPU senza dipendenze, trascrivendo sette lingue. Secondo l'azienda raggiunge il primo token in 11 ms.

IA e modelliSpiegatoGiulia FerrariPubblicato: 3 ottobre 20263 min di letturaFonti 8
Whistle, il riconoscimento vocale in un file da 16,9 MB per telefoni e robot

Cactus Compute ha pubblicato Whistle il 3 ottobre. Il modello è pensato per telefoni, dispositivi indossabili, robot, sistemi per la casa intelligente, impianti automobilistici e microcontroller. Nel post sul blog aziendale si legge che l'intero modello è un solo file da 16,9 MB, caricato nello stesso motore C++ del precedente Needle, dallo stesso container e con la stessa quantizzazione.

Perché la dimensione conta: Whisper base, il termine di paragone scelto da Cactus, pesa 145,3 MB. È circa 8,6 volte tanto. Per chi costruisce un'interfaccia vocale su un dispositivo con poca memoria o senza connessione affidabile, la differenza decide se il modello ci sta o no. Whistle non risolve però la questione dell'accuratezza su audio reale e disordinato: Cactus riporta vittorie su alcuni benchmark e sconfitte su altri, e nessuna replica indipendente è ancora pubblica.

Sui numeri pubblicati da Cactus, Whistle è avanti su LibriSpeech test-clean e test-other, su SPGISpeech, su Earnings-22 e sulla media FLEURS. Whisper base è avanti su TED-LIUM, su AMI e sulla media MLS. Ogni modello è stato eseguito sul runtime ufficiale con le impostazioni predefinite, con il motore di Whistle a cinque beam, secondo il post.

Le lingue sono inglese, tedesco, francese, spagnolo, italiano, olandese e polacco. Il modello riconosce la lingua da solo, a meno che non gliela si indichi, e restituisce la lingua rilevata come token in un vocabolario di 8.192 pezzi di testo più sette token di lingua. Gestisce audio mono a 16 kHz di qualsiasi durata, in una sola passata fino a 30 secondi e a finestre oltre quella soglia.

Cos'altro è arrivato nel parlato on-device

Whistle non è l'unico modello piccolo comparso questa settimana. Shield, di ZeroLeaks, è un classificatore da 118.000.000 di parametri per il rilevamento di prompt injection e jailbreak, che gira in locale su CPU con pesi int8 ONNX da 118 MB. La release S15e è datata 2 ottobre. Non trascrive parlato, ma occupa lo stesso posto: un modello piccolo che controlla il testo prima che un agente lo usi, offline. La scheda del modello riporta un'accuratezza media bilanciata per categoria dell'84,3% e un recall sugli attacchi del 71,8% con Shield rules v2, misurati su 35 dataset pubblici che hanno contribuito allo sviluppo e non su un test mai visto.

Anche Aleph Alpha ha pubblicato dei pesi questa settimana. Kolibri, uscito il 3 ottobre, è un transformer mixture-of-experts inglese-tedesco con 78.000.000.000 di parametri totali e 3.000.000.000 attivi, una finestra di contesto fino a 1.000.000 di token e licenza Apache 2.0. L'azienda sostiene che tenga testa a modelli con un numero di parametri attivi fino a quattro volte il suo, citando Nemotron 3 Super. È un modello di testo, non di parlato, e Aleph Alpha lo propone per pubblica amministrazione, industria e aerospazio.

Il segnale più chiaro di dove sta andando il settore degli strumenti vocali arriva da un progetto molto più piccolo. Il 3 ottobre Kitsuno ha pubblicato un resoconto tecnico sull'addestramento di un modello decisionale aperto, Laya, per sostituire in produzione uno chiuso, Jev. Laya legge testo e restituisce decisioni tipizzate con probabilità. Kitsuno riferisce che in un test di staging ha individuato il paese giusto per il 26% degli annunci di lavoro e la modalità di lavoro giusta per il 50%, contro l'89% di Jev.

L'azienda dichiara di non aver usato nessuna delle risposte di Jev per l'addestramento, citando una clausola del contratto con il cliente che vieta di impiegare gli output per addestrare un prodotto concorrente.

Il dettaglio riflette un cambiamento più ampio. I modelli che escono ora sono ristretti, piccoli e destinati a girare su hardware di proprietà, che sia un telefono, un robot o un server a Francoforte. Gli 11 ms al primo token e il file da 16,9 MB di Whistle sono l'argomento di vendita. Se l'accuratezza regga fuori da un banco di prova è la domanda aperta.

Cactus non ha detto quando Whistle arriverà in un prodotto in commercio, e nessun produttore di dispositivi lo ha fatto. Per ora la release sono i pesi e il motore.

Commenti 0

Fonti

8
  1. 01Whistle: Speech to Text in 16.9 MBEN
  2. 02Shield: A 118M model for detecting prompt injections and jailbreaksEN
  3. 03Kolibri: A Sovereign Open-Weight ModelEN
  4. 04Training an open decision model to replace a closed one, in shadow on prodEN
  5. 05New in Llama.cpp: Decision ModelsEN
  6. 06Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack showsEN
  7. 07Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
  8. 08A Beginner's Guide to Running AI Models LocallyEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Giulia Ferrari

Giulia Ferrari

IA, modelli e tecnologie

Giulia Ferrari scrive di tecnologia, IA e modelli e media e internet per FLASH24, partendo da dataset pubblici, preprint e registri di versioni dei modelli. Controlla ogni numero confrontando benchmark dichiarati e risultati riproducibili, e scarta le stime senza fonte. Segue le audizioni in calendario, parla con ricercatori e ingegneri, e mette a confronto release e changelog prima di pubblicare. Fuori dalla redazione smonta stampanti 3D, recupera vecchi computer e studia come i modelli imparano dai rifiuti del web. Non pubblica un dato se non può ricostruirne il percorso.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.