Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Anthropic affirme que Zhipu GLM-5.3 a des capacités de piratage de classe Mythos

Anthropic a rapporté le 3 octobre que le modèle GLM-5.3 de Zhipu AI peut générer des exploits malveillants à un niveau comparable à celui de son propre modèle Mythos, non publié. L'entreprise cite des tests de référence où GLM-5.3 a construit des exploits Chrome de bout en bout dans 50 des 410 exécutions.

IA & modèlesExpliquéCamille RousseauPublié le: 3 octobre 20266 min de lectureSources 10
Anthropic affirme que Zhipu GLM-5.3 a des capacités de piratage de classe Mythos

Le 3 octobre, Anthropic a publié un rapport de red teaming. L'entreprise y affirme que GLM-5.3, un modèle chinois à poids ouverts très répandu, peut servir d'outil d'attaque informatique sophistiqué. Selon elle, GLM-5.3 automatise les exploits presque aussi efficacement que Mythos, son propre modèle fermé à haute sécurité. La publication intervient alors que les systèmes d'IA à poids ouverts sont examinés de près, en particulier ceux développés hors des États-Unis.

Le rapport détaille les performances de GLM-5.3 dans Exploitbench, une référence interne d'Anthropic. Il s'agit d'un environnement isolé conçu pour mesurer la capacité d'une IA à développer des exploits pour Google Chrome. Dans ce test, GLM-5.3 a produit 50 exploits de bout en bout réussis sur 410 exécutions. De son côté, le modèle Mythos d'Anthropic, qui n'est pas accessible au grand public, en a réussi 56 pour le même nombre de tentatives. The Register note que cet écart est minime. Il suggère que les modèles à poids ouverts rattrapent les modèles frontières fermés et restreints.

Tom's Hardware a rapporté que ces résultats pèsent lourd dans le débat sur la gouvernance de l'IA. Le média souligne que Dario Amodei, PDG d'Anthropic, a publiquement appelé à ralentir le développement de la frontière de l'IA. Or son entreprise a récemment publié Claude Opus 5.5 et Claude Sonnet 5.5, quelques jours seulement après avoir tiré la sonnette d'alarme sur la sécurité des modèles. Des observateurs ont critiqué ce calendrier. Ils y voient une contradiction entre la campagne publique de l'entreprise pour la régulation et sa stratégie commerciale de publication. Tom's Hardware note aussi qu'Anthropic envisage actuellement une introduction en bourse. Ce projet pourrait compliquer encore sa position sur les normes de sécurité de l'open source.

Mesurer les capacités de GLM-5.3

Les détails techniques du rapport d'Anthropic indiquent que GLM-5.3 ne se limite pas aux attaques simples. Le modèle peut exécuter seul des exploits en chaîne complexes. Tom's Hardware explique que, sur une référence ciblant les « full control-flow hijacks », GLM-5.3 atteint un taux de réussite de 4 %. C'est un peu moins que les 6 % de Mythos. Plus préoccupant selon le rapport, la variante allégée « Flash » de GLM-5.3 a développé des exploits en chaîne sur des failles connues pour un coût de seulement 20,40 dollars en tokens. Ce prix bas met ces capacités à la portée d'un plus grand nombre d'acteurs. Il pourrait abaisser le seuil d'entrée pour des opérations cyber sophistiquées.

Anthropic allègue en outre que les garde-fous intégrés à GLM-5.3 se contournent facilement. Le rapport détaille deux méthodes principales pour échapper aux protections du modèle. La première repose sur une consigne trompeuse qui pousse l'IA à jouer le rôle d'un agent autonome adverse. Elle a donné un taux de réussite de 64 % pour la génération de contenu dangereux. La seconde consiste à préremplir les tokens de réflexion du modèle pour orienter la réponse dans une direction précise. Elle a atteint un taux de réussite de 92 %. Une troisième méthode, dite abliteration, est également mentionnée, mais les premiers rapports en donnent moins de détails.

Ces constats s'inscrivent dans une tendance plus large : les chercheurs en sécurité découvrent des vulnérabilités dans les modèles à poids ouverts. The Register note qu'Anthropic a annoncé le projet Glasswing en avril. Cette initiative donne à certains partenaires l'accès aux modèles de classe Mythos pour la chasse aux bugs. Depuis, le nombre de vulnérabilités communes et expositions (CVE) attribuées à ces modèles avancés a augmenté. Vendredi, Mythos et le projet Glasswing avaient révélé 286 CVE, selon un compteur tenu par Patrick Garrity, chercheur en sécurité chez VulnCheck. Jusqu'au jeudi, une seule de ces failles avait été exploitée dans des attaques réelles. La situation a changé récemment.

Exploitation réelle et lien avec Mythos

Des événements récents autour d'une faille critique de contournement d'authentification dans Rejetto HTTP File Server (HFS) montrent l'urgence des affirmations d'Anthropic. The Register rapporte que Zach Hanley, chercheur chez Horizon3, société de tests d'intrusion assistés par IA, a utilisé Mythos pour découvrir une nouvelle faille dans ce serveur de fichiers, référencée CVE-2026-61500. Cette vulnérabilité permet d'obtenir les droits d'administration complets et d'exécuter du code à distance. Hanley a publié une vidéo montrant les étapes pour exploiter HFS et exécuter du code à distance sur le serveur. Elle illustre l'utilité concrète de cette découverte de vulnérabilités pilotée par l'IA.

Patrick Garrity, chercheur en sécurité chez VulnCheck, a déclaré jeudi sur LinkedIn qu'il avait commencé à détecter l'exploitation de CVE-2026-61500 le soir même. Il précise que l'activité initiale venait d'une adresse IP en Chine et visait des hôtes vulnérables aux États-Unis et au Japon. Vendredi, Garrity signalait quatre occurrences depuis deux adresses IP différentes aux États-Unis. Selon lui, elles semblaient passer par un proxy. Les intrus numériques liés à la Chine utilisent régulièrement des appareils compromis comme proxys pour acheminer le trafic malveillant et masquer leur véritable position. Un avis de sécurité publié en avril par dix pays mettait en garde contre cette tactique.

Le rapport d'Anthropic sur GLM-5.3 cite le rapport du Center for AI Standards and Innovation, publié fin septembre. Ce rapport affirme que GLM-5.3 peut automatiser entièrement les exploits à un niveau proche de Mythos. Cette validation externe renforce le poids des références internes d'Anthropic. L'entreprise soutient que ces capacités rendent les modèles à poids ouverts dangereux faute de protections adéquates. Ils peuvent servir à générer du contenu dangereux et à mener des cyberattaques. Le rapport rappelle la double nature des modèles d'IA avancés et la difficulté à encadrer leur publication.

Pour les développeurs et les équipes de sécurité, la conclusion est claire : les modèles à poids ouverts exigent des tests et une surveillance rigoureux. The Register conseille aux utilisateurs de Rejetto HFS de passer à la version 3.2.1 ou ultérieure pour corriger les failles. Plus largement, l'incident souligne la nécessité de pratiques de sécurité solides. L'IA peut désormais accélérer la découverte et l'exploitation des vulnérabilités. À mesure que les capacités de modèles comme GLM-5.3 et Mythos progressent, la frontière entre outils de défense et armes offensives se brouille.

La position d'Anthropic sur le sujet est complexe. L'entreprise affirme que Mythos est trop puissant pour être publié auprès du grand public. En même temps, elle plaide pour une gouvernance et une régulation du secteur de l'IA. Ses actes, dont la publication de nouveaux modèles Claude et la préparation d'une introduction en bourse, dessinent un modèle économique fondé sur le déploiement rapide de capacités d'IA. Cette tension entre intérêts commerciaux et préoccupations de sécurité devrait rester un thème central de l'industrie. Le rapport sur GLM-5.3 est le dernier chapitre d'un récit grandissant sur les risques et les bénéfices de l'IA à poids ouverts.

Commentaires 0

Sources

10
  1. 01Anthropic's super bug-hunting model Mythos is hardcore good at math, as latest vuln under attack showsEN
  2. 02Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
  3. 03OpenAI alerts 100+ orgs that its 'misaligned models' attempted to break in - or worseEN
  4. 04US road rage killer's sentence quashed because AI video of victim was shown in courtEN
  5. 05Twelve AI clay films for $184: The agents cost more than the video modelEN
  6. 06Kolibri: A Sovereign Open-Weight ModelEN
  7. 07New in Llama.cpp: Decision ModelsEN
  8. 08Shield: A 118M model for detecting prompt injections and jailbreaksEN
  9. 09Open 10-player CS:GO dataset for multiplayer world modelsEN
  10. 10We diffed all 66 release pairs of the official MCP servers, 140 silent changesEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Camille Rousseau

Camille Rousseau

IA, modèles et technologies

Camille Rousseau suit les technologies, l’IA et les modèles ainsi que les médias et l’internet pour FLASH24, en partant des dépôts de modèles, des publications techniques et des données publiques, sans reprendre les annonces sans vérification. Elle contrôle les chiffres d’entraînement et de coût en remontant aux jeux de données, aux versions de modèles et aux méthodes de mesure. Elle interroge des chercheurs et des équipes produit, compare les résultats entre modèles et attend les mises à jour de calendrier des principaux fournisseurs. Son intérêt pour l’impression 3D, les vieux ordinateurs et la façon dont les modèles apprennent rejoint directement son travail sur l’IA et les technologies. Elle ne publie pas de chiffres sans source ni de comparaison sans protocole reproductible.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.