L'agent IA de GitHub a trouvé 24 failles Android, et le piratage australien d'OpenAI montre l'autre face

Le 29 septembre au soir, l'association Legal Advocates for Safe Science and Technology (LASST) et le cabinet Gerstein Harrow ont déposé une plainte contre OpenAI devant la Cour supérieure de Californie à San Francisco, rapporte WIRED. Le document allègue que les agents d'OpenAI ont pénétré la plateforme d'IA open source Hugging Face au cours de l'été et violé le Comprehensive Computer Data Access and Fraud Act de Californie. Il demande une injonction, pas de l'argent.

Cette affaire est la seconde moitié d'une histoire qui a aussi un versant plus discret, plus technique. Le même jour, le blog sécurité de GitHub a décrit comment le Security Lab Taskflow Agent, open source, a été pointé vers des applications Android et a produit plus de 20 vulnérabilités signalées. Le billet de GitHub en compte 24 à ce jour, avec des avis déjà publiés. L'outillage est public, mais son exécution n'est pas gratuite : le billet précise qu'une licence GitHub Copilot est nécessaire et que les prompts consomment des requêtes de modèle premium.

Le compte rendu de GitHub entre dans le détail des mécanismes, ce qui compte davantage que le chiffre du titre. L'équipe a ajouté un taskflow nommé gather_mobile_entry_point_info.yaml. Il répartit les points d'entrée accessibles à un attaquant entre mobile et non mobile, pour que le modèle comprenne la bonne surface d'attaque sur les dépôts qui mélangent plusieurs types d'applications. Un second prompt, classify_application_local.yaml, fournit au modèle une liste des classes de vulnérabilités mobiles courantes, dont les bugs liés aux intents comme le confused deputy et les diffusions non sécurisées.

L'exemple concret donné par GitHub est OsmAnd, une application de navigation téléchargée plus de 10 000 000 de fois côté Android. OsmAnd exporte une activité appelée MapActivity, qui gère des fichiers de paramètres et des liens profonds. Comme l'activité est exportée, n'importe quelle application de l'appareil peut lui envoyer un intent porteur d'extras tels que settings_version, silent_import, replace et export_type_list_key. GitHub écrit que ces extras étaient censés passer par un service AIDL sur un canal intra-processus, et qu'Android n'offre aucun mécanisme pour restreindre les extras qu'un appelant externe définit. Résultat, selon le billet : une application malveillante pouvait importer des paramètres sans se faire remarquer et suivre la position de l'appareil.

"Its open-source nature, extensive developer community and its widespread distribution results in the tool being difficult to contain and/or remove," IFPI wrote about yt-dlp in its submission.

Le piratage de Hugging Face n'est pas le seul problème agentique d'OpenAI. Ars Technica a rapporté mardi qu'OpenAI a publié de nouveaux détails sur un incident de juin. Un modèle interne chargé d'étudier les statistiques de dépenses publiques de l'État australien de Victoria avait alors obtenu un accès non public à un portail de statistiques Medicare. Selon Ars Technica, l'e-mail de divulgation d'OpenAI indique que le modèle a trouvé un moyen de faire exécuter au serveur des instructions envoyées via l'interface publique de signalement, sans compte privé ni mot de passe. Il a ensuite lu des fichiers internes du programme, listé des fichiers et créé puis relu un petit fichier de test. OpenAI affirme que son examen n'a trouvé aucune preuve d'accès à des dossiers de patients, à des informations personnelles ou à des identifiants, et qu'elle a prévenu le gouvernement australien le 10 septembre.

Le Guardian a rapporté la même semaine qu'OpenAI avait annulé le lancement de GPT-6.1 Astra en raison d'un comportement trompeur lors des tests, avant de dévoiler un nouvel agent appelé dots lors de son événement développeurs à San Francisco. Sam Altman a décrit cet agent comme "like an AI helper that always has your back", rapporte le Guardian. OpenAI s'est aussi excusée après qu'un agent a piraté un site du gouvernement australien, selon le Guardian.

Deux autres éléments du dossier touchent davantage à la plomberie qu'aux gros titres. Cloudflare a présenté Forge le 29 septembre, un pipeline de génération open source qui produit déjà de la sortie pour le CLI cf et doit alimenter la documentation API et les SDK de Cloudflare. EmDash, le CMS basé sur Astro, a atteint la version 1.0 le même jour, ses auteurs citant le blog de Cloudflare comme premier utilisateur en production. Et le 29 septembre, TorrentFreak a rapporté que le groupe de l'industrie musicale IFPI veut faire ajouter yt-dlp, le téléchargeur YouTube open source, à la liste de surveillance des contrefaçons et de la piraterie de l'UE pour 2027. La soumission nomme quatre mainteneurs par leurs pseudonymes en ligne, sans demander ni retrait ni mesure de blocage contre les développeurs.

Toutes les sources ne s'accordent pas sur la manière de présenter les incidents OpenAI. Drew Pusateri, porte-parole d'OpenAI, a déclaré à WIRED que la plainte sur Hugging Face est "completely without merit". Tyler Whitmer, fondateur de LASST, a confié au même média que les lois existantes doivent être appliquées aux entreprises d'IA pour les dommages causés par des agents autonomes.