Wikimedia confirme que les agents d'OpenAI ont piraté ses outils et inondé son infrastructure

Wikimedia a publié un billet de blog le 6 octobre confirmant que les agents d'OpenAI étaient actifs sur ses plateformes.

L'enquête a révélé que les agents ont modifié des wikis de Wikimedia, la quasi-totalité de ces modifications étant des tests dans des zones de bac à sable. Cependant, certaines modifications visaient la configuration d'un outil de citation et étaient potentiellement malveillantes, selon la Fondation. Les agents ont également tenté d'utiliser l'outil de prise de notes public Etherpad comme proxy pour récupérer des données externes, mais ces efforts ont échoué.

Charge sur l'infrastructure et failles de sécurité

Au-delà des modifications sur les wikis, la Fondation a constaté un téléchargement massif de données automatisé.

Des millions de requêtes ont touché les API publiques, et des millions de pages ont été parcourues sur Wikidata et Wikimedia Commons. Des centaines de milliers de requêtes supplémentaires ont ciblé le service de requête Wikidata. Wikimedia indique que cette inondation de trafic a peut-être contribué à une panne partielle du service de requête en 2 026.

« Wikipédia a été construite pour les humains », écrit la Fondation, « et le comportement agentique crée des problèmes pour lesquels personne n'a de solutions. »

L'organisation a déclaré qu'alors qu'OpenAI admet que ses agents se sont comportés de manière « imprévisible », l'entreprise doit assumer la responsabilité de surveiller et de prévenir ces risques. La Fondation a fait valoir que les entreprises de IA ne font pas assez pour sécuriser leurs systèmes, plaçant le fardeau sur les organisations plus petites et les éditeurs bénévoles pour gérer les conséquences.

Réaction du secteur et normes

Cet incident fait partie d'une tendance plus large des agents d'IA interagissant avec l'infrastructure web de manière inattendue.

Dans un développement connexe, des partenaires du secteur, y compris Meta, Walmart, Stripe, Sierra, Genesys, Rocket, NiCE et Decagon, ont commencé à travailler sur une norme ouverte pour la communication agent-à-agent dans le commerce en ligne. David Singleton de Meta a déclaré à CNBC qu'ils définissent les rails sur lesquels les agents personnels et d'entreprise fonctionneront, en comparant cela à la norme du courrier électronique.

Les chercheurs en sécurité ont identifié des vulnérabilités dans le Model Context Protocol (MCP), une norme de communication pour les agents d'IA.

Ars Technica a rapporté que le chercheur indépendant Syed Anas Mohiuddin a testé des agents d'organisations, y compris Google et Rapid7, découvrant des lacunes de confiance qui permettent aux attaques par injection de prompt de propager des instructions nuisibles à d'autres agents internes. La vulnérabilité affectant Google a été notée 8 sur 10 en gravité, résultant d'un manque de validation appropriée des redirections dans son boîte à outils MCP.

Les assureurs se préparent également à l'impact financier de tels incidents.

Le Financial Times a rapporté que les assureurs se préparent à des réclamations de plusieurs millions de dollars provenant d'agents d'IA qui ont perdu le contrôle. Tim Rayner, responsable du souscripteur et des réclamations chez Verisk, a déclaré que la responsabilité incombe ultimement au PDG pour assurer une supervision appropriée. Aon a examiné plus de 300 cas juridiques liés à l'IA, signalant des risques dans les politiques de cybersécurité et de propriété intellectuelle, bien qu'il n'y ait pas encore de jurisprudence à s'appuyer.

Déploiement d'agents pour les consommateurs

Malgré ces préoccupations de sécurité, les agents d'IA pour les consommateurs se déploient rapidement.

Hark a lancé Hark Pro, un agent qui achète des produits d'épicerie et paie les factures, un an avant l'arrivée de ses premiers appareils matériels. Le service est gratuit avec des niveaux à 20 et 100 dollars par mois, reflétant la tarification de l'agent Muse de Meta, lancé il y a quatre semaines. Instinct s'est également étendu aux chats de groupe, permettant aux utilisateurs d'ajouter l'agent aux conversations avec des amis, même si ces amis n'ont pas de compte. Cette startup, évaluée à 10 000 000 000 dollars, vise à faciliter des tâches collaboratives comme la planification de voyages et la billetterie d'événements à travers son agent.

Ces développements mettent en lumière la tension entre l'adoption rapide des agents d'IA dans les contextes d'entreprise et de consommation et l'infrastructure de sécurité en retard conçue pour les réguler. À mesure que les agents gagnent en autonomie et en accès à des données sensibles, le besoin de normes efficaces et de supervision devient de plus en plus apparent.