Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

La sécurité de l'open source se noie dans le slop généré par l'IA, et les bug bounties en paient le prix

Google a cessé d'accepter de nouveaux signalements de vulnérabilités produit dans son Open Source Software Vulnerability Reward Program le 1er octobre. Le géant invoque un afflux de soumissions invalides générées par l'IA. La pause court au moins jusqu'au premier trimestre 2027.

TechnologieAnalyseSophie LeclercPublié le: 4 octobre 20265 min de lectureSources 8
La sécurité de l'open source se noie dans le slop généré par l'IA, et les bug bounties en paient le prix

Google a annoncé la suspension dans un message publié sur X le 1er octobre, rapporte Tom's Hardware. Le changement est entré en vigueur le jour même. Il ne concerne pas les signalements déposés avant cette date.

Google indique qu'il pourrait encore accepter des signalements de vulnérabilités produit via son Cloud VRP pour certains dépôts Google Cloud. Les signalements de chaîne d'approvisionnement relevant de l'OSS VRP restent ouverts. Cela compte pour quiconque fait tourner du code open source, c'est-à-dire la majeure partie d'internet. Les mainteneurs perdent un examen gratuit venu de chercheurs extérieurs, au moins pour l'instant. Google a promis une mise à jour d'ici au premier trimestre 2027. L'entreprise n'a pas dit à quoi ressemblera un programme reconstruit, ni quelle part de l'ancienne couverture il rétablira.

Le programme rémunère des chercheurs indépendants pour trouver et divulguer des failles dans l'écosystème open source de Google. Les soumissions de vulnérabilités produit portent sur des défauts de code. Les signalements de chaîne d'approvisionnement couvrent un autre ensemble de problèmes dans les dépendances que les projets intègrent. Selon les termes mêmes de Google, cités par Tom's Hardware, l'entreprise remanie cette partie du programme.

Pourquoi les signalements ont cessé d'être utiles

Le déclencheur, c'est le volume. Tom's Hardware rapporte que le programme a été suspendu à cause d'un afflux de rapports invalides pilotés par l'IA. La plainte n'est pas isolée. Le même article note que Linux a abandonné la prise en charge d'anciens pilotes réseau après une vague de faux rapports de bugs générés par l'IA. C'est le même mode de défaillance, à plus petite échelle.

Deux affaires des derniers jours dessinent les deux faces du problème. Le 2 novembre, un registre public de CVE attribués à l'équipe de recherche d'Anthropic mentionnait Apache Arrow en Rust avec un score CVSS de 9.9. Il listait aussi trois failles dans NLnet Labs Krill notées 8.4. Ces entrées figurent dans le même registre qui recense SQLite à 6.8 le 30 octobre et Nextcloud Server à 5.3 le 27 octobre, selon le dépôt GitHub tenu par patrickmgarrity.

La revue assistée par IA trouve donc de vrais bugs, graves. Le problème, c'est le ratio. Un programme de bounty doit trier chaque soumission. Un rapport qui se révèle être une hallucination coûte au relecteur le même temps qu'un rapport authentique.

Toute l'histoire tient dans cette asymétrie. Trouver des candidats est devenu bon marché. Décider lesquels sont réels ne l'est pas.

Les chercheurs construisent eux-mêmes les filtres

Caleb Gross, chercheur en sécurité offensive, a publié la transcription d'une conférence le 4 novembre. Elle décrit des outils conçus précisément pour ce problème de tri. Son outil Slice a reproduit la découverte d'un use-after-free dans le serveur SMB du noyau Linux pour environ 3 dollars par exécution, selon son compte rendu sur noperator.dev. Son outil Raink classe de grands jeux de données avec des LLM en complexité O(N). Il affirme qu'il peut prioriser environ 2 700 dépôts GitHub, quelque 3 000 sous-systèmes du noyau ou près de 1 500 fonctions de diff de patchs.

Dans sa conférence, Gross parle de priorisation, pas de détection. Il soutient que le goulot d'étranglement consiste à choisir quelle surface d'attaque examiner, et non à trouver les bugs.

La pratique du secteur commence à lui donner raison. Le gel de Google est la version brutale de ce jugement : si la file ne peut pas être classée, on ferme la file.

Ce que la file fermée dissimule

La pause d'un seul éditeur ne signifie pas un recul de la découverte de vulnérabilités. Le registre lié à Anthropic montre un flux régulier fin octobre et début novembre. The Register rapportait le 3 octobre que Mythos, le modèle de chasse aux bugs d'Anthropic, était impliqué dans une vulnérabilité depuis attaquée. Les outils continuent donc de produire des résultats, que le programme de Google soit ouvert ou non.

Le risque pèse sur les projets qui comptaient sur l'attention des bug bounties comme seul examen externe. Une petite bibliothèque sans équipe de sécurité ni audit payant ne reçoit rien d'un programme fermé, même si la fermeture est temporaire.

Google n'a pas dit combien de signalements le programme traitait avant la pause, ni quelle part était invalide. L'entreprise n'a pas précisé non plus si le budget du programme change. Ces chiffres diraient aux mainteneurs quelle surveillance ils perdent réellement.

L'exception Cloud VRP est étroite. Elle couvre certains dépôts Google Cloud dont les failles touchent des produits Google Cloud. Elle ne rétablit pas la couverture générale du code open source que Google n'exploite pas comme service.

Le débat parallèle sur la manière de trouver les bugs

La même semaine a apporté un débat distinct sur qui devrait chercher. David Robinson a dirigé la rédaction des rapports de sûreté qui accompagnaient les sorties de produits OpenAI. Il a démissionné et écrit dans The Atlantic que la culture de l'entreprise est cassée, rapporte The Guardian le 3 octobre. Il soutient que les entreprises d'IA ne sont pas assez prudentes. Il réclame une expertise en sûreté venue de domaines comme le nucléaire et l'aviation.

L'essai de Robinson porte sur la sûreté des modèles, pas sur les programmes de bounty. Il ne faut pas l'étendre à la décision de Google. Mais les deux affaires tournent autour de la même question : que se passe-t-il quand le volume de productions générées par machine dépasse les humains chargés de les vérifier.

Pour les mainteneurs open source, la réponse pratique cette semaine est qu'une grande source d'examen gratuit s'est tue. Pour les chercheurs qui ont déposé de vrais rapports avant le 1er octobre, rien ne change. Pour tous les autres, la file est fermée.

Google s'engage à une mise à jour d'ici au premier trimestre 2027. D'ici là, le canal chaîne d'approvisionnement de l'OSS VRP reste ouvert. Le Cloud VRP couvre une partie des dépôts Google Cloud. Ni l'un ni l'autre ne remplace le circuit de vulnérabilités produit fermé le 1er octobre.

Commentaires 0

Sources

8
  1. 01Google freezes open-source bug bounty program amid flood of invalid AI slopEN
  2. 02Tracking vulnerabilities that credit the Anthropic research teamEN
  3. 03O(N) the Money: Scaling Vulnerability Research with LLMsEN
  4. 04OpenAI safety leader quits, warning AI company's culture is 'broken'EN
  5. 05Xray-core concealed a certificate verification bypass vulnerabilityEN
  6. 06Command injecting a reference tool to copy a source fileEN
  7. 07PhotoSuite Is an Open Source Photoshop-Like Editor with Native PSD SupportEN
  8. 08OpenBSD Developers Reject uutils Coreutils Port Over Licensing and Compatibility ConcernsEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Sophie Leclerc

Sophie Leclerc

IA, modèles et technologies

Sophie Leclerc couvre les technologies, l'IA et les modèles ainsi que les médias et l'internet pour FLASH24, en travaillant à partir des dépôts de code, des articles scientifiques et des documents techniques plutôt que des annonces. Elle vérifie chaque chiffre en remontant aux jeux de données d'origine et en comparant les versions successives des modèles. Elle interroge régulièrement des ingénieurs et des chercheurs, et suit les calendriers de publication des principales conférences du secteur. Son intérêt personnel pour l'auto-hébergement et les réseaux domestiques nourrit directement sa couverture des infrastructures et des modèles ouverts. Elle ne publie pas de performance annoncée sans méthode de mesure vérifiable.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.