Google DeepMind filigrane les protéines conçues par IA avec SynthIDBio

Ces travaux, rapportés par Ars Technica le 30 septembre, comblent une lacune signalée près d'un an plus tôt. Les logiciels qui criblent les séquences d'ADN à la recherche de protéines dangereuses ne reconnaissent pas les protéines conçues par IA. Personne ne les a assez bien caractérisées pour dire lesquelles représentent une menace.

DeepMind propose de marquer les conceptions elles-mêmes. SynthIDBio utilise une clé, proche d'une clé cryptographique, et l'identité des acides aminés déjà choisis pour suggérer le suivant. ProteinMPNN vérifie ensuite si cette suggestion donne toujours une protéine fonctionnelle. Si oui, elle est retenue ; sinon, elle est rejetée. Selon Ars Technica, le système n'intègre les acides aminés marqueurs que lorsqu'ils restent compatibles avec une protéine fonctionnelle. Le biais se répartit sur toute la séquence : impossible de retirer la marque sans savoir comment elle a été encodée.

La chimie ne laisse aucune marge. Les protéines sont faites de 20 acides aminés, pas un de plus. Certains se ressemblent chimiquement, d'autres portent des charges opposées. Beaucoup de protéines comportent des régions où un nombre limité de substitutions passe encore, et d'autres où le moindre écart détruit l'activité.

Elles sont aussi petites. Une protéine de 500 acides aminés passe pour assez grande, face aux millions de pixels d'une image classique. La matière première disponible pour dissimuler un signal est donc bien plus réduite. Ars Technica note que la transposition de l'approche SynthID n'avait rien d'évident. L'équipe pouvait trouver trop peu de place pour un filigrane, ou constater qu'en y logeant assez d'information elle obtenait des protéines inactives.

Pourquoi le moment compte

Les outils biologiques ont deux usages. Les méthodes de conception de protéines qui ont produit des enzymes capables de digérer les plastiques ou de bloquer des protéines venimeuses pourraient, en principe, servir à fabriquer des toxines ou des protéines virales. La lacune du criblage est le problème concret. Un filigrane sur les conceptions de confiance donne aux acteurs du criblage un élément à rechercher, et pousse tout ce qui n'est pas marqué vers un examen plus poussé.

SynthID est antérieur à ces travaux. Il ajoute des marques discrètes aux contenus numériques générés par IA en influençant la probabilité de certains choix du modèle, si bien que le biais se répartit de façon systématique dans la sortie. Google l'a déjà appliqué au texte et aux images, où il résiste à un export ou à un redimensionnement simple. Transposer l'idée à une molécule relève d'un tout autre niveau de difficulté.

ProteinMPNN, l'outil au cœur de l'expérience, a été développé par le Baker Lab. David Baker a partagé le prix Nobel avec le patron de DeepMind. Ars Technica mentionne ce détail dans son récit de cette lignée de recherche.

ProteinMPNN fonctionne en deux étapes. Un outil distinct décrit d'abord une configuration de squelette adaptée à la conception. ProteinMPNN parcourt ensuite ce squelette et place les chaînes latérales un acide aminé à la fois. Il choisit chacun selon sa capacité à épouser la forme, à interagir avec ses voisins et à satisfaire d'autres contraintes, comme la formation de poches catalytiques ou la liaison à une autre protéine. SynthIDBio intervient pendant ce parcours.

L'article d'Ars Technica est le compte rendu le plus détaillé du mécanisme publié à ce jour. Un texte plus court daté du 30 septembre, intitulé « SynthID Bio Watermarks Secure AI Proteins », figurait parmi les gros titres récents qui circulaient aux côtés de la pièce d'Ars. Son texte intégral n'était pas disponible dans les documents examinés ici. Analytics Insight a par ailleurs publié le 29 septembre un portrait de Demis Hassabis, directeur général de DeepMind, replaçant plus largement le travail de l'entreprise en matière de découverte scientifique. Ce texte est un contexte, pas une preuve sur la méthode de filigrane.

Ce que montre la couverture alentour

Le dossier contient aussi des éléments sans rapport avec les protéines, qu'il vaut la peine de distinguer. Fox News a rapporté le 30 septembre que Tadhg O'Keeffe, professeur d'archéologie médiévale à l'University College Dublin, a découvert que 70 à 80 pour cent du château médiéval de Roebuck subsiste sous un enduit victorien, à l'intérieur d'un bâtiment du campus. L'UCD a annoncé la découverte le 18 septembre. O'Keeffe a déclaré à Fox News Digital avoir commencé ses recherches après avoir étudié des aquarelles du XVIIIe siècle de l'artiste Gabriel Beranger. L'histoire est frappante, et ce n'est pas une affaire de biosécurité.

Deux autres sources du dossier sont techniques et sans lien avec la conception de protéines. Une page de catalogue de vibecodingdiscover.com, datée du 30 septembre, recense des outils IA open source pour les agents, les serveurs MCP, les compétences et les pipelines RAG. On y trouve une alternative locale à ElevenLabs couvrant 646 langues et un environnement d'exécution en bac à sable pour agents autonomes. Materialize a publié le 29 septembre un billet décrivant sa troisième tentative pour déverser des données sur disque. L'entreprise remplace le swap Linux par un pool de tampons qu'elle gère elle-même : la latence de la DRAM tourne autour de 100 nanosecondes, tandis que les lectures sur NVMe local se comptent en dizaines de microsecondes, quelques centaines de fois plus lent, même si l'écart de bande passante est plutôt de l'ordre de 10 fois.

Ces deux éléments figurent ici parce qu'ils comptent parmi les plus récents du dossier, et non parce qu'ils éclairent le travail sur les protéines. La question pertinente pour l'article de DeepMind est plus étroite : un filigrane peut-il survivre aux contraintes de la chimie des protéines assez bien pour être utile à ceux qui font le criblage.

Le compte rendu d'Ars Technica ne va pas jusqu'à dire que le système a été adopté par un organisme de criblage ou déployé hors du cadre de la recherche. L'article décrit une solution potentielle, publiée un mercredi, à un risque soulevé près d'un an plus tôt et resté sans réponse. La suite dépendra de la reprise du marquage par les laboratoires et les bases de données qui vérifient les séquences à la recherche de menaces. Elle dépendra aussi de la question de savoir si les protéines conçues par IA et non marquées deviennent, par défaut, un signal qui mérite examen.

Pour l'heure, l'affirmation est technique plutôt qu'opérationnelle : un filigrane peut être intégré à une protéine conçue sans compromettre ce que fait cette protéine. Tout le reste reste ouvert.