Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Meta ouvre le bug bounty de Muse, jusqu'à 300 000 dollars, alors que des tests robotiques révèlent des failles de sûreté de l'IA

Meta a ouvert au public le bug bounty de son agent Muse le 25 septembre, avec jusqu'à 300 000 dollars pour les rapports valides et jusqu'à 130 000 dollars pour les tentatives d'injection de prompt touchant un seul utilisateur.

IA & modèlesExpliquéCamille RousseauPublié le: 28 septembre 20263 min de lectureSources 4
Meta ouvre le bug bounty de Muse, jusqu'à 300 000 dollars, alors que des tests robotiques révèlent des failles de sûreté de l'IA

Meta a ouvert au public le bug bounty de son agent Muse le 25 septembre, selon un billet publié par Meta AI Research. Le programme paie jusqu'à 300 000 dollars pour les rapports valides, dont jusqu'à 130 000 dollars pour les tentatives d'injection de prompt réussies qui affectent un seul utilisateur.

L'entreprise indique avoir durci Muse par un usage interne intensif, par des tests d'intrusion menés par des agents et par les problèmes signalés par des chercheurs en sécurité dans un programme privé. Muse, présenté comme un agent personnel, tourne dans ce que Meta appelle une cellule isolée : un conteneur d'exécution systemd-nspawn avec son propre système de fichiers racine, une interface réseau virtuelle, des appels système filtrés et des capacités noyau limitées. Le root à l'intérieur de la cellule correspond à un utilisateur hôte non privilégié, si bien que le root de la cellule n'est pas le root de l'hôte. Le billet de Meta est la description publique la plus détaillée de l'ingénierie de sûreté du dossier. Il paraît en même temps que des travaux qui montrent combien cette ingénierie est difficile à valider.

Le 27 septembre, The Decoder a rapporté que des chercheurs de Stanford et de Caltech ont construit HomeBody, un système qui permet à un robot Unitree G1 de se déplacer seul dans une cuisine inconnue, de ranger et d'aller chercher des objets dans les tiroirs. HomeBody supprime la couche de contrôle entraînée qui s'intercale d'habitude entre le modèle de langage et le robot : un modèle vision-langage interchangeable, ici GPT Astra, appelle directement une bibliothèque de compétences pour saisir, se déplacer et ouvrir des tiroirs. Le robot explore d'abord la pièce, construit un jumeau numérique dans Isaac Sim de Nvidia et consigne objets et emplacements dans une mémoire spatiale, ce qui lui permet de retrouver un objet sorti de son champ de vision. Pour des tâches comme « ranger la cuisine », le modèle de langage planifie chaque étape et se corrige en cas d'erreur. The Decoder cite plusieurs limites, dont la latence d'Astra, la surchauffe des servomoteurs des doigts et le coût de calcul élevé. Le code est sur GitHub. Des benchmarks antérieurs montraient une nette amélioration du raisonnement spatial d'Astra, note le média, tandis qu'un autre signalait des problèmes de sûreté quand Astra pilote un robot.

Le même jour, The Decoder a rapporté que Boris Power, responsable de la recherche appliquée chez OpenAI, a déclaré que 80 à 90 pour cent de la recherche de l'entreprise va vers GPT 7, GPT 8 et au-delà, parce que c'est là que se trouve « l'essentiel de la valeur ». Les mises à jour incrémentales au sein d'une génération, comme le passage de GPT 5.1 à 5.2, viennent de données d'entraînement spécialisées mais restent des paris volontairement à court terme, a-t-il dit. Il a présenté le principal défi des assistants actuels comme un problème d'accompagnement à la prise en main plutôt que de qualité du modèle, et a estimé que la plupart des utilisateurs de ChatGPT ne savent pas ce qu'ils peuvent faire avec l'IA.

Ces propos dessinent un écart autour duquel le volet sûreté du dossier ne cesse de tourner. Meta dit que Muse peut encore faire des erreurs et continuera d'en faire, et que son système part du principe que l'agent peut être attaqué. OpenAI affirme que le saut viendra avec une nouvelle génération de modèle. Aucune de ces affirmations n'est une garantie, et les travaux HomeBody montrent que les modes de défaillance sont physiques autant que numériques.

Ailleurs, Tom's Hardware a rapporté le 27 septembre que Flock cherche à faire retirer la carte des caméras de l'entreprise publiée par un chercheur en sécurité. Ce chercheur, Joshua Michael, a trouvé une faille non authentifiée qui lui donnait un jeton d'accès sans identifiants de connexion, selon The Intercept, et s'en est servi pour interroger ArcGIS, une couche cartographique tierce utilisée par Flock, afin de récupérer une base de données d'appareils Flock en novembre 2025. La carte de surveillance qui en résulte recense 335 701 emplacements de caméras. Flock affirme que sa plateforme cloud n'a jamais subi de violation de données ; Michael a déclaré à The Intercept que l'entreprise avait fait cette annonce après qu'il eut extrait la base de données des appareils.

Commentaires 0

Sources

4
  1. 01We Built Safety into MuseEN
  2. 02Researchers plug GPT-6 Astra directly into a robot and let it clean up an unfamiliar kitchenEN
  3. 03OpenAI says 80 to 90 percent of its research already targets GPT 7 and beyondEN
  4. 04Flock seeks to have security researchers' map of Flock cameras taken downEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Camille Rousseau

Camille Rousseau

IA, modèles et technologies

Camille Rousseau suit les technologies, l’IA et les modèles ainsi que les médias et l’internet pour FLASH24, en partant des dépôts de modèles, des publications techniques et des données publiques, sans reprendre les annonces sans vérification. Elle contrôle les chiffres d’entraînement et de coût en remontant aux jeux de données, aux versions de modèles et aux méthodes de mesure. Elle interroge des chercheurs et des équipes produit, compare les résultats entre modèles et attend les mises à jour de calendrier des principaux fournisseurs. Son intérêt pour l’impression 3D, les vieux ordinateurs et la façon dont les modèles apprennent rejoint directement son travail sur l’IA et les technologies. Elle ne publie pas de chiffres sans source ni de comparaison sans protocole reproductible.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.