Meta ouvre le bug bounty de Muse, jusqu'à 300 000 dollars, alors que des tests robotiques révèlent les failles de sécurité de l'IA

Meta a ouvert au public le bug bounty de son agent Muse le 25 septembre, selon un billet publié par Meta AI Research. Le programme paie jusqu'à 300 000 dollars pour les rapports valides, dont jusqu'à 130 000 dollars pour des tentatives réussies d'injection de prompt qui affectent un seul utilisateur.

L'entreprise dit avoir renforcé Muse par le dogfooding, le red teaming agentique et les problèmes signalés par des chercheurs en sécurité dans un programme privé de bug bounty. Muse, présenté comme un agent personnel, tourne dans ce que Meta appelle une cellule isolée : un conteneur d'exécution systemd-nspawn avec son propre système de fichiers racine, une interface réseau virtuelle, des appels système filtrés et des capacités noyau limitées. Le root à l'intérieur de la cellule correspond à un utilisateur hôte non privilégié : le root de la cellule n'est donc pas le root de l'hôte. Le billet de Meta est le compte rendu public le plus détaillé de l'ingénierie de sécurité du dossier. Il paraît pourtant en même temps que des travaux qui montrent combien cette ingénierie est difficile à valider.

Le 27 septembre, The Decoder a rapporté que des chercheurs de Stanford et de Caltech ont construit HomeBody, un système qui permet à un robot Unitree G1 de se repérer seul dans une cuisine inconnue, de ranger et d'aller chercher des objets dans les tiroirs. HomeBody supprime la couche de contrôle entraînée qui se trouve d'ordinaire entre le modèle de langage et le robot : un modèle vision-langage interchangeable, ici GPT Astra, appelle directement une bibliothèque de compétences pour saisir, se déplacer et ouvrir des tiroirs. Le robot explore d'abord la pièce, construit un jumeau numérique dans Isaac Sim de Nvidia et consigne les objets et leurs emplacements dans une mémoire spatiale. Il peut ainsi retrouver des objets sortis de son champ de vision. Pour des tâches comme « ranger la cuisine », le modèle de langage planifie chaque étape et se corrige en cas d'erreur. The Decoder cite plusieurs limites : la latence d'Astra, la surchauffe des servomoteurs des doigts et le coût de calcul élevé. Le code est sur GitHub. Des benchmarks antérieurs avaient montré de nets progrès d'Astra en raisonnement spatial, note le média, tandis qu'un autre signalait des problèmes de sécurité quand Astra pilote un robot.

Le même jour, The Decoder a rapporté que Boris Power, responsable de la recherche appliquée chez OpenAI, a déclaré que 80 à 90 pour cent de la recherche de l'entreprise porte sur GPT 7, GPT 8 et au-delà, parce que c'est là que se trouve « l'essentiel de la valeur ». Les mises à jour incrémentales au sein d'une génération, comme le passage de GPT 5.1 à 5.2, viennent de données d'entraînement spécialisées, mais restent des paris volontairement à court terme, selon Power. Il décrit le principal défi des assistants actuels comme un problème d'onboarding plutôt que de qualité du modèle, et affirme que la plupart des utilisateurs de ChatGPT ne savent pas ce qu'ils peuvent faire avec l'IA.

Ces propos dessinent un écart autour duquel ne cesse de tourner le volet sécurité du dossier. Meta affirme que Muse peut encore commettre des erreurs et qu'il en commettra, et que son système part du principe que l'agent est peut-être attaqué. OpenAI affirme que le saut passe par une nouvelle génération de modèles. Aucune de ces deux affirmations n'est une garantie, et les travaux sur HomeBody montrent que les modes de défaillance sont physiques autant que numériques.

Par ailleurs, Tom's Hardware a rapporté le 27 septembre que Flock cherche à faire retirer la carte des caméras de l'entreprise publiée par un chercheur en sécurité. Ce chercheur, Joshua Michael, a trouvé une faille non authentifiée qui lui a donné un jeton d'accès sans identifiants de connexion, selon The Intercept. Il s'en est servi pour interroger ArcGIS, une couche cartographique tierce utilisée par Flock, afin de récupérer une base de données des appareils Flock en novembre 2025. La carte de surveillance Flock qui en résulte recense 335 701 emplacements de caméras. Flock affirme que sa plateforme cloud n'a jamais subi de violation de données ; Michael a déclaré à The Intercept que l'entreprise avait fait cette annonce après qu'il eut extrait la base de données des appareils.