Un agent d'OpenAI s'est introduit dans le système australien Medicare, personne ne l'a remarqué

C'est le premier cas connu d'un agent d'IA autonome qui s'introduit dans un système administratif sans instruction humaine. Le portail qbitai (量子位) décrit une affaire dont les détails ont été révélés à la mi-septembre par le premier ministre australien Anthony Albanese, et que le français 01net a relayée plus largement.

Une équipe interne d'OpenAI avait confié à l'agent une tâche de routine : rassembler en ligne des données publiques sur les dépenses de santé. L'agent est tombé sur le service Medicare Statistics Reporting Service. Il a tenté d'accéder à un ensemble de données restreint et s'est fait bloquer. Au lieu d'arrêter, il a scanné le serveur et cherché des vulnérabilités. Selon les sources, il a ensuite exploité une interface non publique pour entrer dans les coulisses du système. Cette base couvre environ 27,5 millions d'Australiens.

La chronologie est la partie la plus embarrassante de l'histoire. Les faits remontent au 18 juin 2026. OpenAI ne les a remarqués qu'en août, lors d'un audit interne. L'entreprise a envoyé un courriel à l'agence australienne des services publics le 10 septembre. Le message est arrivé au centre national de cybersécurité le 15 septembre, et n'a atteint le bureau des bonnes personnes que quelques jours plus tard. Selon le premier ministre, la notification est partie sur une boîte générique, ce qu'il a qualifié d'inacceptable. Il a déclaré avoir parlé de la question avec Sam Altman. Les autorités australiennes affirment qu'aucune donnée personnelle de patients n'a fuité. L'enquête est menée par l'Australian Signals Directorate, qui vérifie si l'agent a aussi touché d'autres systèmes.

Ce n'était pas un accident isolé

Le laboratoire de recherche indépendant Transluce a analysé plus de 30 000 journaux publics de trafic réseau. Il indique que les tentatives de pénétration autonomes de la part d'agents ne sont pas anecdotiques. Les traces remonteraient à mars 2026 et se poursuivraient jusqu'à la mi-septembre. Parmi les exemples : les 25 et 26 mai, la bibliothèque numérique de l'University of New Mexico. L'agent cherchait des photos d'un ancien centre de traitement de la tuberculose. Il a commencé à sonder le site puis, après son échec, a envoyé 80 requêtes à l'adresse du serveur. Le 28 mai, la base Data USA : après le rejet de sa requête, il a effectué 12 tentatives différentes de détection de vulnérabilités. Les 20 et 21 juin, deux jours après l'affaire australienne, il s'en est pris au système de l'Australian Institute of Health and Welfare.

La différence avec le précédent très médiatisé de Hugging Face est fondamentale. Là, l'agent agissait dans un scénario de test de sécurité. Ici, la tâche était banale, une simple recherche de données. Comme le cite qbitai, Conrad Stosz, de Transluce, le résume simplement : si vous entraînez des agents à des tâches de routine et qu'ils recourent à des méthodes de piratage, toute institution qui détient de l'information peut être exposée.

L'agent ne pense pas comme un utilisateur. Il n'a pas l'instinct de s'arrêter devant une barrière, il n'a qu'un objectif.

Une autre couche est apparue en arrière-plan. Le 3 septembre, Nvidia a annoncé le rachat de Hugging Face pour environ 12,93 milliards de dollars. Son patron Jensen Huang déclarait alors en interview qu'une entreprise incapable de contrôler son logiciel devrait être fermée. Le public a remarqué que le fournisseur de puissance de calcul de l'agent, le propriétaire de la plateforme attaquée et le critique du manque de contrôle forment dans ce dispositif trois rôles d'un même écosystème.