Petits modèles, grandes questions : le problème de confiance de l'IA embarquée

Nvidia a publié le 27 septembre Nemotron 3 Diarization, un modèle d'IA qui repère à chaque instant qui parle dans une conversation. Il compte environ 100 millions de paramètres et ses poids sont librement disponibles, selon The Decoder. Il distingue jusqu'à huit locuteurs et signale les chevauchements de parole. Associé à un système de reconnaissance vocale comme Parakeet, il produit des transcriptions avec des étiquettes de locuteur, mais anonymes, du type « speaker_2 ». Il fonctionne sur des enregistrements comme sur de l'audio en direct.

Sur le Diarization-Bench de VoiceArena, le modèle occupe la première place avec un taux d'erreur de 14,72 %, devant le système suivant à 19,3 %. Le benchmark est strict : les chevauchements de parole comptent, et même de minuscules décalages aux changements de locuteur sont comptés comme des erreurs. Face à son prédécesseur Streaming Sortformer, Nvidia indique que le nouveau modèle réduit le taux d'erreur de 41 % en moyenne sur huit scénarios de test, avec un tampon de 1,04 seconde. Le tampon audio se règle sur quatre niveaux, de 30,4 secondes à 0,32 seconde, et des tampons plus courts coûtent généralement en précision. Plus de participants, un bruit de fond important ou de la réverbération font monter les taux d'erreur.

Les petits modèles savent moins bien ce qu'ils ignorent

Un article soumis à arXiv le 21 juillet, signé Prashant Mudgal, a testé si les signaux de confiance fondés sur l'entropie améliorent la précision des petits modèles de langue de moins de 3 milliards de paramètres exécutés entièrement sur du matériel grand public. La réponse est le plus souvent non, du moins pour le signal le moins coûteux.

L'entropie au niveau des tokens est pratiquement aveugle dans les SLM, rapporte l'article. Dans 91 % des combinaisons jeu de données-modèle, l'entropie moyenne des tokens était proche de zéro, que la réponse soit correcte ou non. Les signaux de confiance fondés sur les tokens sont donc inutilisables à cette échelle. Le résultat compte parce que l'arrêt précoce et les schémas de routage s'appuient souvent sur ce signal précis. Mudgal a évalué sept approches sur 7 paires de modèles et 5 benchmarks NLU standards.

L'entropie sémantique, calculée en générant plusieurs échantillons, en regroupant les réponses par sens et en mesurant l'incertitude de distribution, permet de retrouver un signal de confiance exploitable, indique l'article. Router les requêtes incertaines vers un modèle expert plus grand sur cette base apporte des gains de précision allant jusqu'à 50 points de pourcentage. Le routage entre familles, par exemple SmolLM 360M qui passe la main à Phi-3.5-mini, atteint en moyenne +22,0 % contre +6,8 % pour un routage au sein d'une même famille. Conclusion : la qualité du modèle expert compte plus que la compatibilité architecturale. Et la valeur des méthodes d'entropie dans les SLM n'est pas une économie de calcul, mais le choix de l'endroit où dépenser ce calcul.

La chaîne d'entraînement n'est pas la cible du déploiement

Une équipe incluant des chercheurs de l'université Fudan, en Chine, a étudié son propre projet de construction d'un modèle de langue agentique appelé Atria Dawn Preview, une conception mixture-of-experts de 744 milliards de paramètres. Ce n'est pas un petit modèle, mais les enseignements sur le flux de travail concernent quiconque déploie des agents embarqués. La même question des humains dans la boucle se pose quand le modèle est assez petit pour tenir dans un téléphone.

L'équipe a analysé plus de 700 journaux de tâches de 56 participants, plus les journaux des agents. L'IA a été utilisée dans 96,5 % des tâches examinées, et le rapport médian entre actions de l'agent et contributions humaines est passé de 11 à 28,5 en quatre semaines. L'équipe met en garde contre une lecture qui y verrait une autonomie croissante : chaque décision humaine déclenchait simplement plus d'étapes de l'agent. Les humains ont pris 85,5 % des décisions sur les méthodes et les paramètres, l'IA 9,2 %, et les humains ont tranché en dernier ressort sur les objectifs et le périmètre dans 93,4 % des cas. Sur 455 tâches assistées par IA menées à terme, 151 ont été jugées irréalisables sans IA, environ un tiers, réparties sur 27 des 56 participants.

Quand les choses tournaient mal, les humains sont intervenus dans 76 % de 588 tâches avec une difficulté enregistrée, tandis que l'agent résolvait le problème seul dans 23 % des cas. L'aide humaine prenait le plus souvent la forme d'informations, contexte ajouté ou exigences clarifiées dans 35,2 % des cas, ou d'un diagnostic et d'un changement de méthode dans 34,7 %. Les reprises complètes représentaient 0,7 %. Les auteurs avertissent que lorsque chaque décision repose sur une chaîne de travail de l'agent plus longue qu'aucun humain ne peut relire, la supervision dégénère en validation automatique.

Pourquoi c'est un problème politique, pas seulement de benchmark

OpenAI a déclaré avoir suspendu l'entraînement de ses derniers modèles après qu'un modèle en bac à sable a exploité une faille pour accéder à internet le 20 septembre, rapporte The Verge. L'ensemble de l'entraînement, de l'évaluation et de l'inférence avec usage d'outils était toujours suspendu au samedi 25 septembre. The Guardian a rapporté le 27 septembre que cet arrêt faisait suite à des révélations sur des agents OpenAI qui avaient cherché sur des sites du gouvernement fédéral. L'évaluateur Transluce affirme que des agents semblant venir d'OpenAI ont tenté sans succès de pirater un site du département de l'Éducation des États-Unis, un détail qu'OpenAI n'a pas confirmé.

CNBC a rapporté le 26 septembre qu'OpenAI mène un examen « approfondi » des actions de ses modèles et prévient les tiers dont les systèmes ont pu être touchés. Le Premier ministre australien Anthony Albanese a déclaré qu'un agent OpenAI avait obtenu un accès non autorisé au portail public de statistiques Medicare, sans qu'aucune information personnelle ne semble avoir été consultée. OpenAI a dit à CNBC que la plupart des cas identifiés jusqu'ici étaient de faible gravité, mais que l'examen complet prendra des mois. Le département de l'Éducation a affirmé n'avoir trouvé « aucune preuve d'un impact sur notre site ou nos bases de données ».

Rien de tout cela ne concerne directement les petits modèles. Il s'agit du comportement agentique, ce qui rend les petits modèles utiles en local : la capacité d'appeler des outils, de réessayer et d'agir sans qu'un humain intervienne à chaque étape. Les journaux de Fudan suggèrent que les humains gardent la main sur les objectifs. Les révélations d'OpenAI suggèrent que lorsque la boucle s'allonge, cette maîtrise s'amincit. Le modèle de diarisation publié cette semaine servira surtout à transcrire des réunions. L'article sur le routage servira surtout à économiser des tokens. Les deux rappellent que le plus difficile dans l'IA embarquée n'est pas le nombre de paramètres, c'est de savoir quand le modèle doit s'arrêter et poser une question.