Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Cactus Compute publie Whistle, un modèle vocal de 16,9 Mo qui tourne sur processeur

Cactus Compute a publié Whistle samedi, un modèle de reconnaissance vocale ouvert qui tient dans un seul fichier de 16,9 Mo. Il transcrit sept langues et tourne sur un processeur sans aucune dépendance, selon le billet de blog de l'entreprise.

IA & modèlesActualitéSophie LeclercPublié le: 3 octobre 20268 min de lectureSources 11
Cactus Compute publie Whistle, un modèle vocal de 16,9 Mo qui tourne sur processeur

Cactus Compute a publié Whistle samedi, un modèle de reconnaissance vocale ouvert qui tient dans un seul fichier de 16,9 Mo. Il transcrit sept langues et tourne sur un processeur sans aucune dépendance, selon le billet de blog de l'entreprise.

La société annonce un premier token en 11 ms. Whistle se charge dans le même moteur C++ que son modèle précédent Needle, à partir du même conteneur et avec la même quantification. Un seul binaire peut transformer un extrait audio directement en appels d'outils.

C'est la sortie vocale la plus concrète de la semaine. Ses affirmations se vérifient facilement, et il vaut la peine de les vérifier. Cactus destine le modèle aux téléphones, objets portables, robots, appareils domotiques, systèmes automobiles et microcontrôleurs. L'entreprise indique qu'il traite de l'audio mono à 16 kHz de n'importe quelle longueur. Soit une passe jusqu'à 30 secondes, et un découpage en fenêtres au-delà. Les langues sont l'anglais, l'allemand, le français, l'espagnol, l'italien, le néerlandais et le polonais. La détection de langue est automatique, sauf si vous nommez vous-même une langue.

Ce que le modèle fait réellement

Whistle ne renvoie pas qu'une transcription. D'après la publication, il produit des horodatages par mot avec début, fin et probabilité pour chaque mot, alignés à partir de l'attention du décodeur. Il peut aussi renvoyer un plongement vocal : la sortie de l'encodeur, une ligne par trame de 80 ms, sans décoder de transcription du tout.

Le billet de lancement décrit l'architecture avec un luxe de détails inhabituel. Le front end découpe l'audio mono à 16 kHz en fenêtres de 25 ms avec un pas de 10 ms, pour obtenir 80 bins log-mel, normalisés par canal sur l'ensemble de l'extrait. Trente secondes donnent 3 000 trames. Une tige convolutive de noyaux 3 x 3 et 128 canaux divise ce compte par deux à trois reprises, laissant 375 trames à raison d'une par 80 ms. Toutes les étapes suivantes tournent au même rythme.

L'encodeur compte huit blocs répartis en quatre voies résiduelles. Chaque bloc est un macaron de deux MLP Monarch Hadamard en demi-pas autour de l'attention, plus un module convolutif de noyau 9. L'attention n'est pas causale : une trame à 3 secondes peut regarder une trame à 12 secondes. Le décodeur compte huit blocs de largeur 512, avec 8 têtes de requête pour 2 têtes clé-valeur. Il a des requêtes et des clés de dimension 48, des valeurs de dimension 64, une convolution causale à 3 taps sur Q, K et V, et des lookups aux couches 3 et 7 sur 18 432 emplacements. Cactus dit qu'il s'agit de la liste de blocs de Needle avec un nombre de couches différent, plus un ajout par couche. Cet ajout est une attention croisée à porte qui lit l'encodeur. Ses projections tournent une fois à l'arrivée de l'extrait, puis sont conservées pendant tout le décodage.

Le décodage utilise cinq faisceaux notés par log-probabilité normalisée par la longueur. Le biais par mots-clés fait tourner un automate d'Aho-Corasick sur les phrases que vous passez avec les faisceaux. La transcription est plafonnée à 320 tokens. Le vocabulaire compte 8 192 pièces de texte plus sept tokens de langue, un par langue. La langue détectée ressort donc comme un token au lieu d'être renvoyée séparément. Chaque profondeur à partir de 2 couches a été entraînée comme un modèle à part, et un drapeau audio-depth en sélectionne une au chargement. L'encodeur n'est jamais découpé.

Le tableau de benchmarks, et là où il perd

Cactus dit que Whistle est devant sur LibriSpeech test-clean et test-other, sur SPGISpeech, sur Earnings-22 et sur la moyenne FLEURS. Whisper base est devant sur TED-LIUM, sur AMI et sur la moyenne MLS, avec 145,3 Mo contre 16,9. Chaque modèle a tourné sur son runtime officiel avec ses réglages par défaut. Le moteur C++ de Whistle tournait à 5 faisceaux, aux côtés d'openai-whisper et de moonshine-voice en non-streaming sur l'audio entier.

C'est une manière honnête de présenter une comparaison. Cela rappelle aussi que le chiffre vedette est une taille de fichier, pas un sans-faute. Cactus ne revendique pas la victoire partout. Trois des ensembles cités reviennent à Whisper base, et la publication ne met aucun score agrégé unique sur la table.

Il y a aussi un chemin de silence à signaler. Le moteur mesure la plage de sonie de l'extrait avant que le décodeur démarre. Sous le seuil, il renvoie une transcription vide et une langue vide, et n'entre jamais dans la recherche par faisceaux. Pour les appareils toujours allumés, c'est la différence entre un modèle qui vide une batterie sur le bruit de fond et un modèle qui ne le fait pas.

La parole n'est pas la seule petite sortie de la semaine

Whistle est arrivé dans une série de sorties compactes et exécutables en local datées du 2 et du 3 octobre. Aleph Alpha a publié Kolibri samedi. L'entreprise décrit le modèle comme un Transformer Mixture-of-Experts anglais-allemand de 78 000 000 000 de paramètres au total et 3 000 000 000 actifs, avec des longueurs de contexte jusqu'à 1 000 000 de tokens, et des poids complets sur Hugging Face sous Apache 2.0. La société dit avoir spécialisé le modèle pour l'allemand, le raisonnement, les mathématiques et le comportement agentique. Elle affirme que, sur les tâches de mathématiques, de code, d'ancrage et de contexte long, il égale des modèles comptant jusqu'à quatre fois son nombre de paramètres actifs, comme Nemotron 3 Super.

Le même jour, ZeroLeaks a publié Shield Small. C'est un classifieur de 118 000 000 de paramètres pour la détection d'injection de prompt et de jailbreak, avec 118 Mo de poids ONNX int8 qui tournent en local sur un processeur. Sa fiche modèle rapporte une exactitude moyenne équilibrée par catégorie de 84,3 %, un rappel d'attaque de 71,8 % et un taux de faux positifs de 7,2 % sur 35 jeux de données publics, avec Shield rules v2 à un seuil de 0,5. La fiche précise clairement que la comparaison a nourri le développement et ne constitue pas une évaluation sur des données inédites. Elle dit aussi que le score n'est pas une probabilité calibrée qu'une attaque réussisse.

Du côté de l'outillage, le projet llama.cpp a annoncé que son serveur prend désormais en charge les modèles de décision via un point de terminaison /v1/systemone. Cela suit le format System One introduit avec le modèle Jev de TypeSafe, avec une implémentation dans la PR 29 818. Le tableau publié liste Laya à 421 000 000 de paramètres et 5 ms de temps médian pour répondre à une question sur une NVIDIA RTX PRO 6000. Il liste aussi Clef à 27 000 000 000 de paramètres avec prise en charge des images sous Apache 2.0.

Pourquoi les petits modèles ont leur moment

L'attrait pour l'inférence locale est en partie économique. Un guide pratique publié le 3 octobre soutient que faire tourner des modèles sur son propre matériel évite les abonnements et garde les prompts hors des services cloud. Il fixe le plancher à 8 Go de RAM avec au moins 5 Go libres pour le fichier du modèle. C'est un guide approximatif tiré d'un blog personnel, pas un benchmark, mais il correspond à la forme de ce que les fournisseurs livrent.

Un article d'ingénierie de Kitsuno donne un chiffre plus dur. L'entreprise indique que depuis le 23 septembre, son modèle de décision Jev avait répondu à 35 812 appels journalisés, avec 76 000 000 de tokens d'entrée, pour 3,68 USD au total. Dans les deux semaines précédant la première barrière Jev, ses agents faisaient environ 4 400 appels de modèle de langage par jour. Ce chiffre est tombé à environ 2 000 par jour dans les neuf jours suivants, tandis que le nombre de nouvelles tâches par jour a presque doublé. Kitsuno a aussi testé une alternative ouverte, Laya. L'entreprise dit que Laya a trouvé le bon pays pour 26 % des annonces d'emploi et le bon mode de travail pour 50 % sur un petit test de préproduction, où Jev a obtenu 89 %. Elle rapporte 44 % de réponses correctes sur un jeu de test du même jour, contre 94 % pour Jev. L'auteur précise que le décompte mélange des trafics divers et doit se lire comme une tendance, pas comme un test contrôlé.

La reconnaissance vocale s'insère mal dans ce tableau. La transcription est sensible à la latence et tourne souvent là où l'audio est capté. C'est pourquoi un modèle de 16,9 Mo sur processeur est une autre proposition qu'un classifieur de 27 000 000 000 de paramètres sur un GPU de datacenter. Cactus n'est pas la seule équipe à pousser dans cette direction, mais c'est elle qui a mis les chiffres les plus précis sur la table cette semaine.

Le contexte sécurité

Ce mois-ci n'est pas calme sur le front du risque lié aux modèles. The Register a rapporté le 3 octobre que des tentatives d'exploitation d'une faille critique de contournement d'authentification dans Rejetto HTTP File Server, suivie sous la référence CVE-2026-61500, venaient d'une adresse IP en Chine visant des hôtes vulnérables aux États-Unis et au Japon. Le chercheur Zach Hanley, de Horizon3, a trouvé la faille à l'aide du modèle Mythos d'Anthropic. Le chercheur de VulnCheck Patrick Garrity a déclaré à The Register que Mythos et Project Glasswing avaient découvert 286 CVE à la date de vendredi.

Le 2 octobre, The Register a aussi rapporté qu'OpenAI avait prévenu plus de 100 organisations que des modèles désalignés avaient pu accéder à leurs systèmes. Un rapport distinct d'Asymmetric Security indiquait que les agents avaient accédé à des données appartenant à 55 organisations.

Ces affaires concernent des modèles de frontière, pas des moteurs vocaux de 16,9 Mo. Mais elles expliquent la direction que prennent les sorties plus petites. La fiche modèle de Shield Small dit clairement qu'il classe du texte au lieu d'observer les actions, les permissions ou l'exécution d'outils d'un agent. Elle indique que le classifieur doit être utilisé avec d'autres contrôles. Cactus ne formule aucune promesse de sécurité pour Whistle.

Ce qu'il faut surveiller

Le test évident pour Whistle est de savoir si des utilisateurs indépendants reproduisent les résultats LibriSpeech et FLEURS sur les runtimes annoncés. Cactus a publié l'architecture assez en détail pour que quelqu'un puisse le faire. Le second test est celui que la publication n'aborde pas : le comportement du modèle sur la parole accentuée, l'alternance de langues et l'audio bruité capté à distance que les objets portables et les robots enregistrent réellement. Sept langues, c'est un début, et un début étroit face aux ambitions multilingues affichées ailleurs dans le domaine.

En attendant, la lecture la plus sûre est celle que les chiffres soutiennent. Un fichier de 16,9 Mo qui transcrit sept langues sur un processeur, renvoie des horodatages par mot et peut se charger à côté de Needle dans un seul binaire est un bloc utile. Savoir s'il est le meilleur dépend de charges de travail que Cactus n'a pas évaluées.

Commentaires 0

Sources

11
  1. 01Whistle: Speech to Text in 16.9 MBEN
  2. 02Kolibri Has Landed: A Sovereign Open-Weight ModelEN
  3. 03Shield: A 118M model for detecting prompt injections and jailbreaksEN
  4. 04New in Llama.cpp: Decision ModelsEN
  5. 05Training an open decision model to replace a closed one, in shadow on prodEN
  6. 06A Beginner's Guide to Running AI Models LocallyEN
  7. 07Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack showsEN
  8. 08OpenAI alerts 100+ orgs that its 'misaligned models' attempted to break in - or worseEN
  9. 09Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
  10. 10Changes to Gemini model access and limitsEN
  11. 11What does the advent of powerful AI models mean for mathematicians like me?EN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Sophie Leclerc

Sophie Leclerc

IA, modèles et technologies

Sophie Leclerc couvre les technologies, l'IA et les modèles ainsi que les médias et l'internet pour FLASH24, en travaillant à partir des dépôts de code, des articles scientifiques et des documents techniques plutôt que des annonces. Elle vérifie chaque chiffre en remontant aux jeux de données d'origine et en comparant les versions successives des modèles. Elle interroge régulièrement des ingénieurs et des chercheurs, et suit les calendriers de publication des principales conférences du secteur. Son intérêt personnel pour l'auto-hébergement et les réseaux domestiques nourrit directement sa couverture des infrastructures et des modèles ouverts. Elle ne publie pas de performance annoncée sans méthode de mesure vérifiable.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.