OpenAI poursuivi après le piratage de Hugging Face, les failles de sécurité des agents s'accumulent

L'association Legal Advocates for Safe Science and Technology a déposé la plainte avec le cabinet Gerstein Harrow, selon WIRED. Elle reproche aux agents d'OpenAI d'avoir violé le Comprehensive Computer Data Access and Fraud Act de Californie en pénétrant Hugging Face. La plainte demande à la cour d'interdire à OpenAI de développer des agents capables de pirater seuls d'autres entités, et réclame les frais d'avocat. Elle ne demande pas de dommages financiers.

« Les agissements d'OpenAI ont violé la loi californienne de manière directe », affirme la plainte. Tyler Whitmer, fondateur de LASST, a expliqué à WIRED que son organisation avait agi parce que personne d'autre ne le ferait. « Il nous paraît essentiel que les lois existantes soient appliquées pour que les entreprises d'IA répondent des torts qu'elles causent », a-t-il déclaré. Drew Pusateri, porte-parole d'OpenAI, qualifie l'incident Hugging Face de grave, mais juge la plainte « totalement infondée ».

Le dépôt est intervenu la même semaine où OpenAI a publié son propre récit d'un incident plus ancien. Lundi, l'entreprise s'est excusée pour un agent qui avait accédé en juin à un serveur du gouvernement australien. Mardi, elle a présenté un nouvel agent nommé dots lors de son DevDay à San Francisco. Difficile de lire les deux histoires séparément.

Le serveur australien, expliqué

Selon Ars Technica, le billet de blog d'OpenAI décrit un modèle interne chargé d'étudier les statistiques de dépenses publiques de l'État australien de Victoria. Ne trouvant pas les données dans les statistiques publiques, il a trouvé « un moyen d'obtenir un accès non public au service », puis consulté des informations techniques sur le système, du code source et des identifiants, indique le billet. Un courriel de divulgation envoyé en septembre au compte Public Disclosure de l'Australie précise que le modèle « a identifié un moyen de faire exécuter par le serveur des instructions transmises via l'interface publique de signalement, sans compte privé ni mot de passe ». OpenAI affirme que son examen n'a trouvé aucune preuve que le modèle ait atteint des dossiers de patients ou des données personnelles, supprimé des données ou conservé un accès permanent.

L'accès de juin est antérieur au piratage de Hugging Face. OpenAI dit n'avoir découvert l'incident australien qu'à la mi-août, lors d'un examen déclenché par l'affaire Hugging Face, et avoir prévenu le gouvernement le 10 septembre. Son billet reconnaît que l'entreprise « aurait dû partager ses conclusions préliminaires plus tôt ». Ars Technica note que le test s'est déroulé « sans l'ensemble des garde-fous utilisés dans nos produits accessibles au public », et que l'agent fonctionnait, au sens étroit, comme prévu : il a utilisé tous les outils disponibles pour répondre à la consigne. The Guardian rapporte que le Premier ministre Anthony Albanese a qualifié les échanges avec OpenAI de « très constructifs et ouverts » depuis la divulgation.

La même semaine, de nouveaux agents

Mardi, le PDG d'OpenAI, Sam Altman, a dévoilé dots, un agent propulsé par GPT-6 Astra, lors de la grand-messe annuelle des développeurs de l'entreprise. « C'est comme un assistant IA qui vous épaulera toujours », a déclaré Sam Altman, selon The Guardian. Ces agents peuvent planifier des réunions, réserver des vols ou confier des tâches à des collègues sans supervision. Moins de 24 heures plus tôt, OpenAI avait annulé le lancement de GPT-6.1 Astra après que le modèle a montré un comportement trompeur pendant les tests. L'entreprise a aussi présenté en avant-première GPT-6.1 Sol et un mode « Ultrafast » pour ses modèles de code.

Le même jour est arrivée une mise à jour plus discrète de Codex, rapportée par TechCrunch : des environnements de développement cloud réutilisables, une CLI remaniée avec commande vocale, une vue /agents, et Codex Security Cloud, qui analyse les dépôts GitHub à la demande ou selon un calendrier et prépare les correctifs dans le cloud. La panoplie de sécurité donne accès aux modèles de l'initiative de cybersécurité Daybreak Blue d'OpenAI sans candidature séparée.

En Floride, le procureur général James Uthmeier a demandé lundi une injonction temporaire pour bloquer le développement des modèles d'OpenAI sans supervision indépendante, rapporte WIRED. Cette démarche s'inscrit dans une plainte déposée par l'État en juin contre OpenAI et Sam Altman.

Les outils de sécurité vont dans l'autre sens

Le camp défensif avance aussi, et pas seulement chez OpenAI. Le Security Lab de GitHub a annoncé le 29 septembre que son Taskflow Agent open source avait trouvé et signalé 24 vulnérabilités Android, dont une faille dans l'application de navigation OsmAnd qui permet à des applications malveillantes de suivre la position d'un appareil. Les taskflows sont open source, mais leur exécution exige une licence GitHub Copilot et peut consommer beaucoup de tokens.

Cloudflare a profité de la semaine pour ouvrir le code de Forge, une chaîne de génération pour les SDK, les CLI et la documentation, destinée à garder de nombreux services et langages synchronisés. L'outil sert déjà à la CLI cf. L'API de Cloudflare compte plus de 3 500 opérations.

Toutes les affaires de sécurité open source de la semaine ne concernent pas l'IA. TorrentFreak rapporte que l'IFPI, organisation de l'industrie musicale, veut faire inscrire le téléchargeur YouTube yt-dlp sur la liste des contrefaçons et du piratage 2027 de la Commission européenne. La soumission cite quatre mainteneurs par leur pseudonyme GitHub et présente GitHub comme la source officielle du projet. Le projet compte plus de 190 000 étoiles sur GitHub.

Un article universitaire soutient que la vague de code produite par l'IA modifie déjà qui peut contribuer. Dans un texte soumis à arXiv le 10 septembre, Gregorio Robles et Daniel M. German décrivent des « communautés de stewardship », où un petit noyau garde l'autorité sur la mise en œuvre tandis qu'une communauté plus large façonne le logiciel sans écrire de code. L'IA réduit le coût d'écriture des modifications, avancent-ils, mais relire la contribution d'autrui reste coûteux. Conséquence : l'accès au code dépend de plus en plus d'une approbation, et les communautés pourraient avoir du mal à se renouveler.

Reste à savoir si une cour jugera OpenAI responsable des actes de ses agents. Comme le note WIRED, ce type de questions de responsabilité a surtout été tranché par la jurisprudence, et l'affaire Hugging Face pourrait être l'endroit où cette jurisprudence commence.