Nvidia, Third Intelligence e Tencent portano i modelli vocali aperti su una sola GPU

Trascrizione e traduzione sono state vendute per lo più come API cloud a consumo, fatturate a ora di audio. Pesi aperti che girano su una singola GPU cambiano questa aritmetica. Un'azienda può elaborare l'audio registrato in casa e mettere a punto il modello sul proprio gergo, invece di spedire i file a un fornitore. Resta da capire se la precisione regge fuori dai benchmark in inglese e mandarino, dove i numeri pubblicati sono più deboli.

Solo uno dei nuovi rilasci gestisce il parlato dal vivo. L'interprete di Tencent lavora in streaming; il modello di Nvidia opera sulle registrazioni.

Cosa ha pubblicato davvero Nvidia

Nemotron 3.5 Transcribe gestisce trascrizione, etichette dei parlanti, timestamp e traduzione in un solo passaggio. Copre 40 lingue e distingue fino a otto parlanti. Nvidia l'ha costruito come mixture of experts. I due articoli contano la sua dimensione in modo diverso: SiliconANGLE e MarkTechPost danno cifre differenti per i parametri totali e attivi. Il peso in più sta in un modulo di previsione multi-token e nei componenti audio, secondo il rapporto tecnico. Un'istruzione testuale sceglie lo stile di output per ogni richiesta. L'azienda presenta il modello come specialista della trascrizione, non come assistente generalista.

I pesi escono in BF16, in FP8 a circa 35 GB e in NVFP4 a circa 21 GB. Quest'ultima versione è abbastanza piccola da girare su una RTX 5090.

Nvidia dice che una GPU Blackwell Server Edition con precisione NVFP4 e una compressione del modello a un quarto elabora 100 ore di audio in meno di tre minuti. Gira anche su un computer edge Jetson AGX Thor o su un desktop DGX Spark, da un cervello per robot a un componente da data centre. Nvidia ha esteso il suo dataset vocale Granary alla v2: 463.062 ore su 48 lingue e 16 corpora di origine, contro le 25 lingue della v1. Quel dataset è separato dalla miscela di addestramento del modello, nota SiliconANGLE.

Le dichiarazioni sui benchmark, e dove si fermano

Nvidia riporta un tasso medio di errore sulle parole del 4,71% su nove set Open ASR inglesi pubblici, contro il 4,94% del successivo modello aperto, Qwen3-ASR-1.7B. Sette sistemi commerciali sono ancora davanti in quella tabella, guidati da OtterAI speech-v3.1 al 3,88%. Su sette set multilingue il modello riporta un WER medio del 4,62% contro il 6,49% di Qwen3-ASR-1.7B, mentre ElevenLabs Scribe v2 arriva al 3,56%. Ogni cifra qui è autodichiarata.

Il numero pubblicato più debole è il 34,95% di cpCER su AliMeeting, riunioni in mandarino con parlato a distanza. Sta contro il 4,71% di media in inglese.

SiliconANGLE riporta una serie diversa di cifre dallo stesso lancio. Cita un tasso di errore del 30,8% out-of-box che scende al 20,8% con un prompting attento. Cita anche un tasso di errore sulle parole dell'11,8% sul benchmark Eka Care di parlato medico indiano dopo il fine-tuning. I due resoconti non conciliano i loro tassi di errore per lo stesso modello, e nessuno dei due spiega il divario.

Un numero va nella direzione opposta. Dare al modello una lista di entità ha ridotto il tasso di errore sulle parole per le entità nominate su ContextASR-Bench dal 12,21% al 2,20%.

Modelli piccoli, una sola lingua

Haas-ja-v1.0 è una scommessa diversa: 615,8 milioni di parametri e una lingua invece di 40. GIGAZINE riporta che ha ottenuto un punteggio più alto nella trascrizione giapponese rispetto al commerciale Gemini 3.5 transcribe, e il più alto tra i modelli aperti valutati da quella testata. Nel suo test, 4 minuti e 19 secondi di audio sono stati trascritti 0,32 secondi dopo la fine dell'upload, con alcuni nomi propri che hanno richiesto correzione manuale. I pesi sono su Hugging Face e il codice di inferenza su GitHub.

Il grafico dei costi di GIGAZINE mette Haas-ja-v1.0 al costo di inferenza più basso tra i modelli con precisione comparabile. Il confronto usa le tariffe delle API commerciali e l'inferenza su H200 in Giappone.

Hy-SimulMT di Tencent punta all'interpretazione simultanea cinese-inglese, con un ritardo in streaming di circa tre secondi sul benchmark RealSI per testi lunghi. Tencent dice che i suoi punteggi di qualità della traduzione hanno superato gli altri modelli open source e quattro delle cinque API commerciali del suo confronto. Il rilascio include pesi, software di inferenza e strumenti di addestramento.

Sulle piattaforme Apple, il pacchetto AnySpeechRecognizer avvolge Parakeet TDT 0.6B v3 di Nvidia e Qwen3-ASR di Alibaba. Parakeet copre 25 lingue europee. Qwen3-ASR arriva a 600 milioni e 1,7 miliardi di parametri e copre 30 lingue e 22 dialetti cinesi.