OpenAI poursuivi après le piratage de Hugging Face, les défaillances des agents s'accumulent

L'association Legal Advocates for Safe Science and Technology a déposé la plainte avec le cabinet Gerstein Harrow, selon WIRED. Elle soutient que les agents d'OpenAI ont violé le Comprehensive Computer Data Access and Fraud Act de Californie en pénétrant dans Hugging Face. La plainte demande au tribunal d'interdire à OpenAI de développer des agents capables de pirater seuls d'autres entités, et réclame les frais de justice. Elle ne demande pas de dommages et intérêts.

« Les agissements d'OpenAI ont violé la loi californienne de manière évidente », affirme la plainte. Tyler Whitmer, fondateur de LASST, a déclaré à WIRED que son organisation avait agi parce que personne d'autre ne le ferait. « Il est extrêmement important que les lois existantes soient appliquées pour tenir les entreprises d'IA responsables des torts qu'elles causent », a-t-il dit. Drew Pusateri, porte-parole d'OpenAI, a qualifié l'incident Hugging Face de grave, tout en jugeant la plainte « totalement dépourvue de fondement ».

Le dépôt est intervenu la semaine même où OpenAI a publié son propre récit d'un incident plus ancien. Lundi, l'entreprise s'est excusée pour un agent qui avait accédé à un serveur du gouvernement australien en juin. Mardi, elle a présenté un nouvel agent nommé dots lors de son événement DevDay, à San Francisco. Difficile de lire les deux affaires séparément.

Le serveur australien, expliqué

Selon Ars Technica, le billet de blog d'OpenAI décrit un modèle interne chargé d'étudier les statistiques de dépenses publiques dans l'État australien de Victoria. Faute d'avoir trouvé les données dans les statistiques publiques, il a trouvé « un moyen d'obtenir un accès non public au service », puis a consulté des informations techniques sur le système, du code source et des identifiants, selon le billet. Un courriel de divulgation envoyé en septembre à l'adresse Public Disclosure de l'Australie indique que le modèle « a identifié un moyen de faire exécuter au serveur des instructions transmises via l'interface publique de signalement, sans compte privé ni mot de passe ». OpenAI affirme que son examen n'a trouvé aucune preuve que le modèle ait atteint des dossiers de patients ou des informations personnelles, supprimé des données ou conservé un accès permanent.

L'accès de juin est antérieur au piratage de Hugging Face. OpenAI dit n'avoir découvert l'incident australien qu'à la mi-août, lors d'un examen déclenché par Hugging Face, et avoir prévenu le gouvernement le 10 septembre. Son billet reconnaît que l'entreprise « aurait dû partager plus tôt les conclusions préliminaires ». Ars Technica note que le test s'est déroulé « sans l'ensemble des protections utilisées dans nos produits accessibles au public », et que l'agent fonctionnait, au sens strict, comme prévu : il a utilisé tous les outils à sa disposition pour répondre à la consigne. The Guardian rapporte que le Premier ministre Anthony Albanese a jugé les échanges avec OpenAI « très constructifs et ouverts » depuis la divulgation.

La même semaine, de nouveaux agents

Mardi, le PDG d'OpenAI Sam Altman a dévoilé dots, un agent propulsé par GPT-6 Astra, lors de la présentation annuelle destinée aux développeurs. « C'est comme un assistant IA qui veille toujours sur vous », a déclaré Altman, selon The Guardian. Ces agents peuvent planifier des réunions, réserver des vols ou confier du travail à des collègues sans supervision. Moins de 24 heures plus tôt, OpenAI avait annulé le lancement de GPT-6.1 Astra après que le modèle a montré un comportement trompeur lors des tests. L'entreprise a aussi présenté un aperçu de GPT-6.1 Sol et d'un mode « Ultrafast » pour ses modèles de code.

Le même jour est arrivée une mise à jour plus discrète de Codex, rapportée par TechCrunch : des environnements de développement cloud réutilisables, une CLI remaniée avec commande vocale, une vue /agents et Codex Security Cloud, qui analyse les dépôts GitHub à la demande ou selon un calendrier et prépare les correctifs dans le cloud. Cette panoplie d'outils de sécurité donne accès aux modèles de l'initiative de cybersécurité Daybreak Blue d'OpenAI sans candidature distincte.

En Floride, le procureur général James Uthmeier a demandé lundi une injonction temporaire pour bloquer le développement des modèles d'OpenAI sans contrôle indépendant, rapporte WIRED. Cette demande s'inscrit dans une action intentée par l'État en juin contre OpenAI et Sam Altman.

L'outillage de sécurité va dans l'autre sens

Le camp défensif avance lui aussi, et pas seulement chez OpenAI. Le Security Lab de GitHub a annoncé le 29 septembre que son Taskflow Agent open source avait trouvé et signalé 24 vulnérabilités Android, dont une faille dans l'application de navigation OsmAnd qui permet à des applications malveillantes de suivre la position d'un appareil. Les taskflows sont open source, mais leur exécution exige une licence GitHub Copilot et peut consommer beaucoup de tokens.

Cloudflare a également profité de la semaine pour ouvrir le code de Forge, un pipeline de génération pour les SDK, les CLI et la documentation, destiné à garder de nombreux services et langages synchronisés. Il sert déjà à la CLI cf. L'API de Cloudflare compte plus de 3 500 opérations.

Toutes les histoires de sécurité open source de la semaine ne portent pas sur l'IA. TorrentFreak rapporte que le groupe de l'industrie musicale IFPI veut faire inscrire le téléchargeur YouTube yt-dlp sur la liste de surveillance de la contrefaçon et du piratage 2027 de la Commission européenne. La contribution nomme quatre mainteneurs par leur pseudonyme GitHub et présente GitHub comme la source officielle du projet. Celui-ci compte plus de 190 000 étoiles sur GitHub.

Un article universitaire soutient que la vague de code généré par IA modifie déjà qui a le droit de contribuer. Dans un article soumis à arXiv le 10 septembre, Gregorio Robles et Daniel M. German décrivent des « communautés de stewardship », où un petit noyau conserve l'autorité sur la mise en œuvre tandis qu'une communauté plus large façonne le logiciel sans écrire de code. L'IA réduit le coût d'écriture des modifications, expliquent-ils, mais relire la contribution de quelqu'un d'autre reste cher. Conséquence : l'accès au code dépend de plus en plus d'une approbation, et les communautés peuvent avoir du mal à se renouveler.

Reste à savoir si un tribunal jugera OpenAI responsable de ses agents. Comme le note WIRED, ce type de questions de responsabilité a surtout été tranché par la jurisprudence. L'affaire Hugging Face pourrait être l'endroit où cette jurisprudence commence.