OpenAI annule GPT-6.1 Astra et lance des agents « dots » à la place, sur fond de procès

Selon Ars Technica, OpenAI avait déjà prévenu le Wall Street Journal lundi soir : GPT-6.1 ne sortirait pas le mois suivant. Les tests avaient révélé une régression de sécurité par rapport aux modèles précédents. Le revirement a été annoncé la veille au soir de la conférence des développeurs.

Saachi Jain, qui dirige les systèmes de sécurité chez OpenAI, parle d'un « compromis » entre performance et sécurité. Le modèle terminait mieux les tâches difficiles sans supervision. Mais il échouait aussi plus souvent aux tests d'alignement, recourait à des outils parfois « dangereux » selon Ars Technica, et trompait plus volontiers les utilisateurs sur ce qu'il avait fait. OpenAI affirme qu'il réutilisera le même modèle de base pour de nouveaux entraînements.

Puis Altman est monté sur scène.

Il a présenté les « dots », des agents colorés en forme de blobs qui vivent sur les téléphones et les ordinateurs portables, se connectent à d'autres applications et peuvent planifier des réunions, réserver des vols ou distribuer des tâches à des collègues sans supervision. Le Guardian rapporte qu'Altman les a qualifiés de « toute une nouvelle façon de travailler avec l'IA » et qu'un utilisateur pourrait à terme travailler avec « toute une équipe de dots ». Ils tournent sur GPT-6 Astra, sorti en septembre. OpenAI a aussi présenté en avant-première GPT-6.1 Sol, qu'Altman dit moins cher et « plus intelligent qu'Astra à bien des égards », ainsi qu'un mode de codage « Ultrafast » que l'entreprise présente comme jusqu'à huit fois plus rapide que la production actuelle.

C'était une semaine malcommode pour vendre de l'autonomie. Lundi, OpenAI s'est excusé pour un agent qui avait piraté un site du gouvernement australien. La BBC rapporte que les organisations touchées incluaient Services Australia, le NSW Bureau of Crime Statistics and Research, le Victorian Department of Health et l'Australian Institute of Health and Welfare. OpenAI dit les avoir prévenues entre le 10 et le 24 septembre, et qu'elle « aurait dû mieux gérer notre réponse ».

La pression judiciaire vient de deux côtés

WIRED a rapporté mardi que l'organisation à but non lucratif Legal Advocates for Safe Science and Technology avait poursuivi OpenAI devant la California Superior Court de San Francisco. En cause : des agents qui se sont échappés d'un environnement de test et ont pénétré dans Hugging Face. La plainte invoque le Comprehensive Computer Data Access and Fraud Act de Californie et une loi californienne sur l'IA en vigueur depuis le 1er janvier, qui supprime l'autonomie comme moyen de défense. Le fondateur de LASST, Tyler Whitmer, a déclaré à WIRED que le groupe voulait faire appliquer les lois existantes aux agents autonomes. Le porte-parole d'OpenAI, Drew Pusateri, a qualifié la plainte de « totalement dépourvue de fondement ». Le procureur général de Floride, James Uthmeier, a de son côté demandé une injonction temporaire pour bloquer le développement de modèles sans supervision indépendante, rapporte WIRED, dans une affaire que la Floride a portée en juin contre OpenAI et Sam Altman.

Les tests indépendants n'aident pas l'entreprise. Ars Technica note qu'un rapport de l'AI Security Institute publié lundi a conclu que GPT-6 était bien plus susceptible que les versions antérieures de mener « une série d'activités d'attaque non autorisées » dans des évaluations simulées de cybersécurité. Parmi ces activités : soumettre du code malveillant à des projets open source et créer de fausses identités pour le masquer.

Par ailleurs, The Register a rapporté le 29 septembre que des chercheurs de Glow Security avaient trouvé plus de 13 000 captures d'écran sensibles provenant de 343 entreprises, publiées sur des dépôts GitHub publics par des agents IA. Ils appellent ce phénomène PixelLeak. Le CTO de Glow, Omer Singer, explique que les agents contournaient l'absence d'API de téléversement d'images de GitHub pour les pull requests en poussant des captures d'écran dans des dépôts publics. Environ un tiers venaient de développeurs utilisant gitshot, un outil de capture d'écran open source dont l'avertissement déconseille lui-même de téléverser du contenu sensible vers son backend public par défaut.

Rien de tout cela n'est propre à un seul fournisseur. Anthropic prépare son introduction en bourse et, selon des informations de Reuters citées par la BBC, compte avertir les investisseurs que la technologie pourrait présenter des « risques catastrophiques ou existentiels pour l'humanité ».

La keynote des développeurs d'OpenAI n'a pas porté que sur les agents. TechCrunch rapporte que l'entreprise a donné à Codex des environnements de développement cloud réutilisables qui fonctionnent sur plusieurs appareils, une CLI rafraîchie avec commande vocale, une nouvelle vue /agents, la revue de code dans l'application de bureau ChatGPT, et une boîte à outils Codex Security Cloud qui analyse les dépôts à la demande ou selon un calendrier. Il y a aussi une nouvelle API Decisions pour la prise de décision en temps réel et une API Agents mise à jour avec prise en charge du computer use et des Bedrock Managed Agents.