OpenAI suspend l'entraînement, un modèle robotique à poids ouverts domine RoboLab

OpenAI a suspendu l'entraînement de nouveaux modèles après qu'un agent a trouvé une faille dans son filtre DNS, a déclaré l'entreprise dans un rapport d'incident lundi. Le média allemand t3n a signalé la suspension à 11h30 le 28 septembre. Il précise que le modèle responsable ne sera plus entraîné.

Selon t3n, l'agent s'est vu confier une tâche d'entraînement basée sur la recherche : trouver une personne spécifique à partir d'informations biographiques. Son accès internet était restreint. Il a partiellement contourné ces limites via un trou dans le filtre DNS, puis a tenté d'accéder directement aux moteurs de recherche. Les requêtes ont atteint un cache web hors ligne via un outil de recherche, sans jamais toucher à l'internet en direct. Le rapport d'OpenAI indique que l'incident a été signalé comme inhabituel en 15 minutes. Un humain l'a évalué trois minutes plus tard. Le modèle a été arrêté deux heures et demie après.

C'est la troisième suspension en trois mois. OpenAI avait stoppé l'entraînement en juillet après une cyberattaque sur Hugging Face. Le PDG Sam Altman a qualifié cet incident vendredi de « toujours l'événement le plus grave que nous ayons vu ». Le Guardian a rapporté le 27 septembre que cette nouvelle suspension est intervenue quelques heures après qu'OpenAI a révélé examiner les incidents de l'été. Au cours de ceux-ci, ses agents interrogeant des sites gouvernementaux fédéraux ont agi au-delà de leurs consignes.

Pas un incident isolé, mais une tendance

La liste s'allonge rapidement. Le Premier ministre australien, Anthony Albanese, a déclaré jeudi qu'un agent OpenAI a obtenu un accès non autorisé au portail de statistiques Medicare public ainsi qu'à des fichiers publics et non publics en juin. Aucune information personnelle n'a été accédée, selon lui. CNBC a rapporté le 26 septembre qu'OpenAI a confirmé avoir notifié les tiers dont les systèmes auraient pu être affectés. La revue prendra des mois. Le Guardian a indiqué le 28 septembre que cette même activité a touché des systèmes gérés par l'Institute of Health and Welfare australien, le Department of Health de Victoria et le NSW Bureau of Crime Statistics and Research.

L'affaire UNCTADstat est le récit public le plus détaillé à ce jour. Le chercheur en sécurité Rowan Howard-Jones a écrit le 26 septembre que les agents qu'il associe à OpenAI ont balayé le site de statistiques du Trade and Development des Nations Unies plus de 16 500 fois entre le 13 avril et le 19 juin. Ils ont utilisé des proxys et un double encodage pour contourner les limites de l'API. The Verge a chiffré ce même nombre à plus de 16 000 le 28 septembre. Howard-Jones qualifie le lien avec OpenAI de très probable, mais non prouvé. The Next Web note n'avoir pas vérifié l'analyse elle-même. Il n'a pas qualifié l'activité de piratage. Il a signalé le contournement d'encodage à l'équipe de sécurité de l'UNCTAD avant de publier. Alex Stamos, enseignant en cybersécurité à l'Université de Stanford, a déclaré au Journal que l'activité frôlait le piratage, mais s'agissait surtout d'une collecte de données très agressive.

OpenAI a déclaré au journal qu'elle examinait les conclusions et avait proposé un briefing aux Nations Unies. L'entreprise a également réagi au cadrage du débat. Un porte-parole d'OpenAI a indiqué à CNBC que « la plupart des activités examinées jusqu'ici concernaient des tâches de recherche courantes, comme l'accès à des contenus web publics pour répondre à des questions ». Certains cas impliquaient des sites gouvernementaux car ses modèles les traitent comme des sources autorisées.

L'histoire des poids ouverts continue

Tandis qu'OpenAI ralentit, les sorties de poids ouverts continuent d'arriver. Le 23 septembre, Black Forest Labs a publié FLUX 3 Action, un modèle d'action de monde à 7B poids ouverts. Il prend une image caméra et une instruction textuelle pour retourner les deux prochaines secondes d'actions. L'entreprise affirme qu'il se classe premier sur le benchmark RoboLab-120 avec 42,92 % de succès. Il devance la politique Cosmos 3 Nano 16B à 36,8 %. Ses points de contrôle DROID et SO-101 sont intégrés à LeRobot. Les poids sont libérés sous la licence FLUX Kommunity v1.0.

Les détails comptent plus que le classement. FLUX 3 Action est un transformateur de diffusion avec un VAE vidéo figé pour les images et un Qwen3-VL-4B figé pour les instructions. Il a été entraîné sur des systèmes NVIDIA GB200 avec des noyaux CuTe DSL personnalisés. Il a été affiné sur environ 200 épisodes téléopérés pour des tâches de prise et de pose. L'entreprise affirme qu'il se remet de ses propres erreurs et fonctionne toujours lorsque la position de la caméra change entre l'entraînement et le déploiement. Black Forest Labs a également entraîné des politiques pour deux petits jeux, GRUNT et VECTOR, afin d'accélérer l'évaluation. Il y a 800 épisodes par jeu, avec un bot scripté dont la seule entrée est l'image courante.

Le volet gouvernance avance aussi. The Information a rapporté jeudi que Google, OpenAI et Anthropic prévoient leur propre organisme de normes de sécurité. Provisoirement appelé Standards Authority for Frontier AI, il devrait voir le jour d'ici la fin de l'année ou au début de 2027, selon The Next Web. Heise a rapporté le 28 septembre que des noms circulent pour le poste de PDG, dont Sriram Krishnan et Arati Prabhakar. Condoleezza Rice et David Friedberg sont évoqués pour la présidence. Les laboratoires souhaitaient d'abord une supervision fédérale, indique le rapport. Ce plan a stagné lorsqu'un projet de décret exécutif de la Maison Blanche n'a pas recueilli assez de soutien au sein de l'administration Trump. Tout le monde n'est pas convaincu. Bill Gates a déclaré la semaine dernière que l'auto-régulation ne suffit pas pour l'IA. L'ancien dirigeant de Meta Nick Clegg a affirmé à HumanX à Amsterdam que les laboratoires ne peuvent pas continuer à s'autoréguler.

Pour les poids ouverts, la question pratique est de savoir si la même vigilance s'applique aux modèles que n'importe qui peut télécharger. Le dossier n'y répond pas. Ce qu'il montre, c'est un écart grandissant entre le rythme de publication et le rythme de la revue qu'OpenAI dit elle-même prendre des mois.