Nvidia, Third Intelligence und Tencent bringen offene Sprachmodelle auf eine GPU

Transkription und Übersetzung wurden bisher meist als Cloud-APIs pro Minute verkauft. Die Anbieter rechnen nach Audiostunden ab. Offene Gewichte, die auf einer einzigen GPU laufen, ändern diese Rechnung. Ein Unternehmen kann aufgezeichnetes Audio im eigenen Haus verarbeiten und das Modell auf seinen eigenen Fachjargon abstimmen, statt Dateien an einen Anbieter zu schicken. Unklar bleibt, ob die Genauigkeit außerhalb englischer und mandarinsprachiger Benchmarks hält, wo die veröffentlichten Zahlen am schwächsten sind.

Nur eine der neuen Veröffentlichungen verarbeitet Live-Sprache. Der Interpreter von Tencent streamt, das Modell von Nvidia arbeitet auf Aufnahmen.

Was Nvidia tatsächlich ausgeliefert hat

Nemotron 3.5 Transcribe erledigt Transkription, Sprecherkennzeichnung, Zeitstempel und Übersetzung in einem Durchgang. Es deckt 40 Sprachen ab und kennzeichnet bis zu acht Sprecher. Nvidia hat es als Mixture of Experts gebaut. Die beiden Berichte zählen seine Größe unterschiedlich: SiliconANGLE und MarkTechPost nennen abweichende Werte für Gesamt- und aktive Parameter. Das zusätzliche Gewicht steckt laut dem technischen Bericht in einem Multi-Token-Prediction-Modul und in den Audiokomponenten. Eine Textanweisung legt den Ausgabestil für jede Anfrage fest. Das Unternehmen positioniert das Modell als Transkriptionsspezialisten, nicht als allgemeinen Assistenten.

Die Gewichte kommen in BF16, in FP8 mit etwa 35 GB und in NVFP4 mit etwa 21 GB. Die letzte Variante ist klein genug für eine RTX 5090.

Nvidia zufolge verarbeitet eine Blackwell Server Edition GPU mit NVFP4-Präzision und einer Modellkompression auf ein Viertel 100 Stunden Audio in weniger als drei Minuten. Das Modell läuft auch auf einem Jetson AGX Thor Edge-Computer oder einem DGX Spark Desktop, vom Roboterhirn bis zur Rechenzentrumskomponente. Nvidia hat seinen Granary-Sprachdatensatz auf v2 erweitert: 463.062 Stunden aus 48 Sprachen und 16 Quellkorpora, nach 25 Sprachen in v1. Dieser Datensatz ist laut SiliconANGLE getrennt von der Trainingsmischung des Modells.

Die Benchmark-Angaben und wo sie enden

Nvidia meldet eine mittlere Wortfehlerrate von 4,71 % auf neun öffentlichen englischen Open-ASR-Sets, gegen 4,94 % beim nächsten offenen Modell Qwen3-ASR-1.7B. Sieben kommerzielle Systeme führen diese Tabelle noch an, an der Spitze OtterAI speech-v3.1 mit 3,88 %. Auf sieben mehrsprachigen Sets meldet das Modell 4,62 % mittlere WER gegenüber 6,49 % bei Qwen3-ASR-1.7B, während ElevenLabs Scribe v2 3,56 % erreicht. Alle diese Zahlen sind Eigenangaben.

Die schwächste veröffentlichte Zahl sind 34,95 % cpCER auf den mandarinsprachigen Far-Field-Meetings von AliMeeting. Dem steht der englische Mittelwert von 4,71 % gegenüber.

SiliconANGLE nennt aus demselben Start eine andere Zahlenreihe. Der Bericht zitiert eine Fehlerrate von 30,8 % ohne Anpassung, die mit sorgfältigem Prompting auf 20,8 % fällt. Er nennt außerdem 11,8 % Wortfehlerrate auf dem indischen medizinischen Sprachbenchmark Eka Care nach Feinabstimmung. Die beiden Darstellungen bringen ihre Fehlerraten für dasselbe Modell nicht in Einklang, und keine erklärt die Lücke.

Eine Zahl zeigt in die andere Richtung. Gab man dem Modell eine Entitätsliste, sank die Wortfehlerrate bei benannten Entitäten auf ContextASR-Bench von 12,21 % auf 2,20 %.

Kleine Modelle, einzelne Sprachen

Haas-ja-v1.0 ist eine andere Wette: 615.800.000 Parameter und eine Sprache statt 40. Laut GIGAZINE schnitt es bei japanischer Transkription besser ab als das kommerzielle Gemini 3.5 transcribe und am besten unter den offenen Modellen, die das Medium getestet hat. Im eigenen Test wurden 4 Minuten 19 Sekunden Audio 0,32 Sekunden nach Abschluss des Uploads transkribiert, wobei einige Eigennamen manuell korrigiert werden mussten. Die Gewichte liegen auf Hugging Face, der Inferenzcode auf GitHub.

Die Kostengrafik von GIGAZINE setzt Haas-ja-v1.0 bei den Inferenzkosten an die niedrigste Stelle unter Modellen vergleichbarer Genauigkeit. Der Vergleich nutzt Gebühren kommerzieller APIs und Inferenz auf H200 in Japan.

Tencent zielt mit Hy-SimulMT auf simultanes Chinesisch-Englisch-Dolmetschen, mit einer Streaming-Verzögerung von etwa drei Sekunden auf dem Langform-Benchmark RealSI. Tencent zufolge übertrafen seine Übersetzungsqualitätswerte die anderen Open-Source-Modelle und vier der fünf kommerziellen APIs im Vergleich. Zur Veröffentlichung gehören Gewichte, Inferenzsoftware und Trainingswerkzeuge.

Auf Apple-Plattformen bündelt das Paket AnySpeechRecognizer Nvidias Parakeet TDT 0.6B v3 und Alibabas Qwen3-ASR. Parakeet deckt 25 europäische Sprachen ab. Qwen3-ASR kommt mit 600.000.000 und 1.700.000.000 Parametern und deckt 30 Sprachen und 22 chinesische Dialekte ab.