Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Whistle compresse la reconnaissance vocale dans un fichier de 16,9 Mo pour téléphones et robots

Cactus Compute a publié Whistle le 3 octobre, un modèle de reconnaissance vocale livré sous la forme d'un seul fichier de 16,9 Mo qui tourne sur un processeur sans dépendances et transcrit sept langues. Il atteint le premier token en 11 ms, selon l'entreprise.

IA & modèlesExpliquéCamille RousseauPublié le: 3 octobre 20263 min de lectureSources 8
Whistle compresse la reconnaissance vocale dans un fichier de 16,9 Mo pour téléphones et robots

Cactus Compute a mis Whistle en ligne le 3 octobre et le présente comme un modèle destiné aux téléphones, objets connectés portables, robots, appareils domotiques, systèmes automobiles et microcontrôleurs. D'après le billet de blog de l'entreprise, le modèle tient dans un unique fichier de 16,9 Mo, chargé par le même moteur C++ que son précédent modèle Needle, depuis le même conteneur et avec la même quantification.

Pourquoi la taille compte : Whisper base, la référence retenue par Cactus, pèse 145,3 Mo. Soit environ 8,6 fois plus. Pour qui construit une interface vocale sur un appareil à mémoire réduite ou sans connexion fiable, cet écart décide si le modèle rentre ou non. Ce que Whistle ne tranche pas, c'est la précision sur un audio réel et bruité : Cactus annonce des gains sur certains tests et des reculs sur d'autres, et aucune réplication indépendante n'est publique à ce jour.

Sur les chiffres publiés par Cactus, Whistle devance Whisper base sur LibriSpeech test-clean et test-other, sur SPGISpeech, sur Earnings-22 et sur la moyenne FLEURS. Whisper base garde l'avantage sur TED-LIUM, sur AMI et sur la moyenne MLS. Chaque modèle a tourné sur son moteur officiel avec ses réglages par défaut, celui de Whistle à cinq faisceaux, précise le billet.

La liste des langues couvre l'anglais, l'allemand, le français, l'espagnol, l'italien, le néerlandais et le polonais. Le modèle détecte la langue si on ne la lui indique pas et la renvoie sous forme de token, dans un vocabulaire de 8 192 fragments de texte plus sept tokens de langue. Il traite de l'audio mono à 16 kHz de n'importe quelle longueur, en une passe jusqu'à 30 secondes, puis par fenêtres au-delà.

Ce qui est arrivé d'autre dans la parole embarquée

Whistle n'est pas le seul petit modèle de la semaine. Shield, de ZeroLeaks, est un classifieur de 118 000 000 de paramètres pour détecter les injections de prompt et les jailbreaks, qui tourne en local sur un processeur avec 118 Mo de poids ONNX en int8. Sa version S15e date du 2 octobre. Il ne transcrit pas de la parole, mais il occupe la même place : un petit modèle qui vérifie un texte avant qu'un agent n'agisse dessus, hors ligne. La fiche du modèle annonce 84,3 % de précision moyenne équilibrée par catégorie et 71,8 % de rappel sur les attaques avec Shield rules v2, mesurés sur 35 jeux de données publics qui ont servi à son développement et non sur un test inédit.

Aleph Alpha a lui aussi publié des poids cette semaine. Kolibri, sorti le 3 octobre, est un transformeur mélange d'experts anglais-allemand de 78 000 000 000 de paramètres au total et 3 000 000 000 actifs, avec une fenêtre de contexte allant jusqu'à 1 000 000 de tokens et une licence Apache 2.0. L'entreprise affirme qu'il égale des modèles comptant jusqu'à quatre fois son nombre de paramètres actifs, et cite Nemotron 3 Super. C'est un modèle de texte, pas de parole, et Aleph Alpha le destine à l'administration publique, à l'industrie et à l'aérospatiale.

Le signe le plus net de la direction que prend l'outillage vocal vient d'un projet bien plus petit. Le 3 octobre, Kitsuno a publié un compte rendu technique sur l'entraînement d'un modèle de décision ouvert, Laya, chargé de remplacer un modèle fermé, Jev, en production. Laya lit du texte et renvoie des décisions typées avec des probabilités. Kitsuno indique que, sur un test de préproduction, il a trouvé le bon pays pour 26 % des offres d'emploi et le bon mode de travail pour 50 %, contre 89 % pour Jev.

L'entreprise affirme ne s'être entraînée sur aucune des réponses de Jev, en invoquant une clause du contrat client qui interdit d'utiliser les sorties pour entraîner un produit concurrent.

Ce détail s'inscrit dans un mouvement plus large. Les modèles qui sortent aujourd'hui sont étroits, petits et conçus pour tourner sur du matériel que vous possédez, que ce soit un téléphone, un robot ou un serveur à Francfort. Les 11 ms avant le premier token et le fichier de 16,9 Mo de Whistle sont l'argument de vente. La question ouverte reste de savoir si la précision tient en dehors d'un banc d'essai.

Cactus n'a pas dit quand Whistle apparaîtra dans un produit commercial, et aucun fabricant d'appareil ne l'a fait non plus. Pour l'instant, la sortie se limite aux poids et au moteur.

Commentaires 0

Sources

8
  1. 01Whistle: Speech to Text in 16.9 MBEN
  2. 02Shield: A 118M model for detecting prompt injections and jailbreaksEN
  3. 03Kolibri: A Sovereign Open-Weight ModelEN
  4. 04Training an open decision model to replace a closed one, in shadow on prodEN
  5. 05New in Llama.cpp: Decision ModelsEN
  6. 06Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack showsEN
  7. 07Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
  8. 08A Beginner's Guide to Running AI Models LocallyEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Camille Rousseau

Camille Rousseau

IA, modèles et technologies

Camille Rousseau suit les technologies, l’IA et les modèles ainsi que les médias et l’internet pour FLASH24, en partant des dépôts de modèles, des publications techniques et des données publiques, sans reprendre les annonces sans vérification. Elle contrôle les chiffres d’entraînement et de coût en remontant aux jeux de données, aux versions de modèles et aux méthodes de mesure. Elle interroge des chercheurs et des équipes produit, compare les résultats entre modèles et attend les mises à jour de calendrier des principaux fournisseurs. Son intérêt pour l’impression 3D, les vieux ordinateurs et la façon dont les modèles apprennent rejoint directement son travail sur l’IA et les technologies. Elle ne publie pas de chiffres sans source ni de comparaison sans protocole reproductible.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.