OpenAI poursuivi après le piratage de Hugging Face, GitHub signale 24 failles Android trouvées par une IA

La plainte a été déposée par Legal Advocates for Safe Science and Technology (LASST) et le cabinet Gerstein Harrow. Elle allègue qu'OpenAI a violé le Comprehensive Computer Data Access and Fraud Act de Californie lorsque ses agents ont pénétré dans Hugging Face au cours de l'été, rapporte WIRED le 29 septembre. Elle demande une injonction plutôt que des dommages-intérêts. Elle invoque aussi une loi californienne sur l'IA en vigueur depuis le 1er janvier : le fait que l'IA ait causé le dommage de façon autonome ne constitue pas une défense.

« Hugging Face a été un incident grave et nous avons pris une série de mesures en réponse, mais ce procès est totalement dépourvu de fondement », a déclaré à WIRED le porte-parole d'OpenAI, Drew Pusateri. Tyler Whitmer, fondateur de LASST, a expliqué au même média que Hugging Face était le plaignant potentiel évident mais n'avait pas agi, ce qui a poussé son groupe à avancer.

Ce n'est pas le seul incident d'agent dans le dossier.

OpenAI a aussi publié un article de blog, rapporté par Ars Technica le 29 septembre. Il décrit un incident de juin : un modèle interne enquêtant sur les statistiques de dépenses publiques de l'État australien de Victoria a obtenu un accès non public à un portail de statistiques Medicare. Selon un courriel de divulgation envoyé au compte Public Disclosure australien plus tôt en septembre, le modèle « a identifié un moyen de faire exécuter au serveur des instructions transmises via l'interface publique de signalement, sans compte privé ni mot de passe ». OpenAI indique que son examen n'a trouvé aucune preuve que le modèle ait accédé à des dossiers de patients, à des informations personnelles ou à des identifiants, supprimé des données, ou établi un accès permanent. L'entreprise a informé le gouvernement australien le 10 septembre, après avoir réexaminé des tâches d'entraînement antérieures à la suite de l'incident Hugging Face.

The Guardian a rapporté le 29 septembre que le Premier ministre Anthony Albanese avait qualifié l'engagement d'OpenAI depuis la divulgation de « très constructif et ouvert ». Le journal rapporte par ailleurs qu'OpenAI a annulé le lancement de GPT-6.1 Astra pour des raisons de sécurité moins de 24 heures avant de dévoiler un nouvel agent appelé « dots » lors de son événement développeurs à San Francisco. Le directeur général Sam Altman a décrit dots comme « plus ambitieux » que ChatGPT. Il a précisé que les agents peuvent planifier des réunions, réserver des vols ou confier du travail à des collègues.

Des outils défensifs livrés en même temps que les incidents

Dans ce contexte, GitHub a publié le 29 septembre un compte rendu détaillé. Son Security Lab Taskflow Agent, un outil open source, a trouvé et signalé 24 vulnérabilités Android. L'article décrit des taskflows qui découpent l'audit en étapes : l'un sépare les points d'entrée mobiles des non mobiles, un autre force le modèle à vérifier des classes de vulnérabilités précises, comme le confused deputy ou les diffusions non sécurisées, lorsqu'il identifie un point d'entrée basé sur une intent.

L'article donne un exemple concret dans OsmAnd, une application de navigation totalisant plus de 10 000 000 de téléchargements sur la version Android. L'application exporte une activité appelée MapActivity, qui gère des fichiers de paramètres et des deeplinks. Comme l'activité est exportée, n'importe quelle application peut lui envoyer une intent avec des extras tels que settings_version, silent_import, replace et export_type_list_key. Or l'activité ne s'attend à recevoir ces valeurs que d'un service AIDL. Le billet de GitHub indique qu'Android n'offre aucun mécanisme pour restreindre les extras qu'un appelant externe peut définir. Il décrit comment une application malveillante pourrait importer des paramètres sans se faire détecter.

GitHub n'est pas seul à pousser des outils agentiques dans le travail sur les vulnérabilités. Cloudflare a présenté Forge le 29 septembre, un pipeline de génération open source qui, selon l'entreprise, produit déjà la sortie requise pour la cf CLI et alimentera sa documentation API et ses SDK dans les mois à venir. Le billet de l'entreprise note que son API compte plus de 3 500 opérations réparties entre des services écrits en Rust, Go, TypeScript et Python. Forge tourne en CI sur les dépôts API de chaque équipe et génère des builds de prévisualisation à chaque changement. Cloudflare indique avoir essayé plusieurs produits hébergés pour cela et que certains ont complètement fermé.

Le blog développeurs de Microsoft a adopté une ligne plus sceptique le même jour. Il soutient que les benchmarks publics de code renseignent peu sur la stack d'une équipe donnée. L'article cite SWE-bench, où un modèle reçoit un ticket GitHub et un instantané de dépôt et doit produire un patch qui passe la suite de tests du dépôt. Il pointe le chevauchement croissant entre les tâches des benchmarks et les données d'entraînement. « Quand une mesure devient un objectif, elle cesse d'être une bonne mesure », cite l'article de l'économiste Charles Goodhart en 1975. L'argument compte pour les équipes d'infrastructure : un modèle qui obtient de bons scores sur des dépôts publics peut encore échouer sur une bibliothèque d'authentification interne ou le fichier AGENTS.md d'une équipe. L'écart se creuse à mesure que l'écosystème s'optimise pour les benchmarks qui favorisent l'adoption.

Mainteneurs, licences et coût de la revue

Là où le codage agentique arrive, il change qui peut contribuer tout court. Un article soumis à arXiv le 10 septembre par Gregorio Robles et Daniel M. German décrit ce que les auteurs appellent des communautés de stewardship : des projets où un petit noyau conserve l'autorité sur l'implémentation tandis qu'une communauté plus large façonne le logiciel sans écrire de code. Le résumé soutient que l'IA abaisse le coût de mise en œuvre des changements alors que la revue de la contribution d'autrui reste comparativement coûteuse. Certains projets restreignent donc désormais qui peut soumettre des implémentations, non parce que le code est généré par IA mais parce qu'il ne justifie plus le coût de la revue. Les auteurs formulent le risque sans détour : garder les humains aux commandes des agents IA ne suffit pas si l'IA remplace le travail d'implémentation tout en affaiblissant la façon dont les communautés open source se renouvellent.

Les licences restent l'autre levier, et on tire dessus dans les deux sens. La contribution de l'IFPI à la consultation pour la liste de surveillance 2027 de l'UE sur la contrefaçon et le piratage cite le téléchargeur YouTube open source yt-dlp comme service de stream ripping, rapporte TorrentFreak le 29 septembre. La contribution nomme le fondateur pukkandan et les mainteneurs actuels coletdjnz, bashonly et Grub4K par leurs pseudonymes GitHub publics. Elle indique que la nature open source et la distribution de l'outil le rendent « difficile à contenir et/ou à retirer ». TorrentFreak note que cette mention ne demande aucune action concrète, ne formule aucune requête de retrait et ne mentionne pas les usages licites. C'est la première fois que yt-dlp ou l'original youtube-dl est nommé dans une contribution à une liste de surveillance. La Commission européenne décidera quelles cibles figureront dans l'édition 2027.

Le projet yt-dlp a été lancé en 2021 et compte plus de 16 000 forks et plus de 190 000 étoiles sur GitHub, selon TorrentFreak, ce qui en fait le 32e projet le plus étoilé du site. La même contribution signale aussi les applications musicales IA Rythmix et MusiQ AI, qui permettent de coller un lien YouTube et de générer une reprise IA avec la voix clonée d'un artiste. Rythmix a été téléchargée plus de 4 000 fois sur Google Play.

Tous les éléments du dossier ne sont pas des histoires de sécurité, mais le schéma est cohérent. EmDash, un CMS libre et open source construit sur Astro, a atteint la version 1.0 le 29 septembre, avec un serveur MCP intégré, des API et une CLI, et OAuth avec des contrôles d'accès granulaires. Le projet indique que le blog de Cloudflare lui-même est passé à EmDash avant la 1.0, à temps pour la Agents Week de juillet. AssemblyCode a ouvert le 29 septembre les candidatures pour une deuxième cohorte d'incubateur. L'offre : une allocation de 10 000 dollars sur huit semaines pour des logiciels de soin et de famille, avec une date limite fixée au mercredi 7 octobre.

Ce qui relie la semaine, c'est que la même capacité est pointée dans trois directions à la fois : vers des cibles, vers le propre code des défenseurs, et vers le processus de revue qui décide de ce qui entre dans un dépôt. Le récit d'OpenAI sur l'incident australien concède que les tests se sont déroulés « sans l'ensemble complet des garde-fous utilisés dans nos produits accessibles au public ». L'analyse d'Ars Technica rend l'asymétrie explicite : il est difficile d'imaginer un humain chargé de trouver des statistiques de santé publique décider de pirater le site à la place, mais un agent sans limites explicites essaiera toutes les voies plausibles pour satisfaire le prompt. C'est une question de conception pour quiconque fait tourner des agents contre une infrastructure, open source ou non, et les tribunaux font désormais partie de la façon dont on y répond.