Le laboratoire d'IA d'Anthropic divise les biologistes sur la découverte de protéines

Le laboratoire de biologie moléculaire d'Anthropic, peuplé d'agents Claude, a signalé un motif répétitif autour d'une enzyme connue. L'entreprise assure que ce motif n'avait jamais été répertorié. L'annonce, publiée la semaine dernière et décortiquée par MIT Technology Review le 28 septembre, est devenue la plus vive controverse publique sur ce qu'une IA peut légitimement revendiquer avoir découvert dans les sciences du vivant.

MIT Technology Review décrit le système comme 950 agents ayant travaillé pendant 21 heures. Leur production n'était pas une nouvelle séquence d'ADN, rapporte le média. Ils ont trouvé un motif répétitif autour d'une enzyme connue, et l'annonce d'Anthropic l'a qualifié de « rappelant » les travaux qui ont mené à CRISPR. Ce choix de mot a porté beaucoup de poids. C'est là que les ennuis ont commencé.

Le problème du seuil

La critique est venue vite, et de l'intérieur du domaine. Un post devenu viral du biologiste Lucas Harrington, ensuite approuvé par le président-directeur général d'Eli Lilly, soutenait que « trouver un groupe étrange de gènes et de répétitions est souvent la partie facile. La partie difficile, celle d'où viennent les vraies découvertes, c'est de comprendre ce que le système fait réellement. » MIT Technology Review a cité le post directement. Harrington lui-même suggérait, selon le média, que les entreprises d'IA devraient « fixer la barre haut dès maintenant, pour que lorsqu'une IA découvrira vraiment un mécanisme biologique fondamentalement nouveau, tout le monde mesure l'ampleur de l'événement. »

Ensuite, l'affaire s'est compliquée. Mario Rodríguez Mestre, biologiste à l'université de Copenhague, a déclaré le week-end dernier que son équipe avait déjà trouvé le même motif, selon le New York Times, relayé par MIT Technology Review. Mestre utilisait régulièrement Claude dans son travail. Il a demandé si l'équipe d'Anthropic avait appris de ses conversations. Anthropic le nie. Mestre dit avoir arrêté d'utiliser Claude malgré tout.

« La partie difficile, celle d'où viennent les vraies découvertes, c'est de comprendre ce que le système fait réellement. »

Rien de tout cela ne signifie que le travail de fond était sans valeur. MIT Technology Review souligne que réduire 200 000 candidats à une poignée digne d'être testée est un vrai travail scientifique. Qu'un chatbot généraliste y parvienne est notable, même avec des humains qui pilotent et réalisent les expériences. Le problème, c'est le cadre. Dès que la question devient de savoir si Claude a lui-même fait une découverte, il ne reste que deux réponses possibles : percée ou échec. Tout ce qui se trouve entre les deux est écrasé.

À quoi ressemble vraiment le travail sur les protéines aujourd'hui

La querelle autour d'Anthropic dépasse une seule entreprise. La découverte de protéines et de matériaux est le domaine où l'IA accumule discrètement des résultats réels et vérifiables. Le schéma qui traverse le dossier est moins spectaculaire qu'un communiqué, et plus utile.

Parmi les titres récents consignés aux côtés de la couverture d'Anthropic figurent des travaux sur des vaccins à ARNm et nanoparticules lipidiques thermostables. Ils utilisent ce que Nature a décrit comme une IA économe en données, et ont été publiés le 28 septembre. Séparément, des chercheurs ont rapporté l'usage de la prédiction de structure par IA pour accélérer la découverte de colles moléculaires, de petites molécules capables de forcer des protéines à s'assembler d'une manière qui traite la maladie. Aucune de ces deux affirmations ne repose sur le crédit accordé à une IA pour un saut conceptuel. Elles reposent sur une IA qui explore et classe beaucoup plus vite que des humains.

Cette distinction est tout le débat. Les systèmes d'IA excellent dans la partie de la science qui relève du tri, et le domaine a mis du temps à le dire clairement. MIT Technology Review note la même dynamique en mathématiques. Plus tôt en septembre, OpenAI a affirmé que ses agents avaient résolu un problème à un million de dollars. En deux semaines, la discussion s'est déplacée vers la question de savoir si ce problème était celui qui intéressait les mathématiciens. Le média prend soin de préciser que la critique ne soutenait pas que la solution d'OpenAI était fausse, seulement que le résultat n'était peut-être pas le résultat important. Un mathématicien a aussi accusé les modèles d'avoir utilisé certains de ses travaux sans le créditer.

Le désaccord ne porte donc pas vraiment sur l'exactitude. Il porte sur l'importance, et sur qui décide de cette importance. C'est plus difficile à trancher en public qu'une mauvaise réponse.

La vérification arrive d'une autre direction

Pendant que le débat sur le crédit de la découverte se poursuit, d'autres groupes travaillent sur un problème plus terre à terre : la biologie générée par IA mérite-t-elle confiance ? Les titres de la semaine dernière décrivent DeepMind qui ajoute des filigranes aux protéines pour que les laboratoires puissent vérifier ce qu'ils regardent. D'autres travaux portent sur les filigranes SynthID Bio pour les protéines conçues par IA. Ces efforts visent à rendre la production d'IA traçable, pas à la rendre célèbre.

Le côté commercial avance au même rythme sans éclat. Hansa Biopharma a annoncé un partenariat avec Cradle sur la conception et l'ingénierie de protéines assistées par IA. C'est du travail sous contrat, pas une revendication de percée. C'est probablement un meilleur indicateur de l'état réel de la technologie que n'importe quelle annonce d'agents découvrant quelque chose.

Le cadrage d'Anthropic fait lui-même partie du problème, selon MIT Technology Review. Le média soutient que les entreprises d'IA ne présentent pas leurs systèmes comme des outils au sens où un microscope ou un supercalculateur en est un. Elles insistent sur le fait que les systèmes font eux-mêmes des découvertes. Cela s'accorde mal avec la manière dont la science produit habituellement du savoir : par la collaboration et un ensemble croissant d'instruments. Ce décalage n'énerve pas seulement les biologistes. Il rend les progrès réels plus difficiles à reconnaître quand ils surviennent, parce que les seuls verdicts disponibles sont les deux extrêmes.

Le reste du dossier scientifique

Ailleurs dans le dossier, l'actualité de la recherche de la semaine est inhabituellement concrète. Des scientifiques du Harrington Discovery Institute des University Hospitals et de la Case Western Reserve University ont publié dans Cell Reports des résultats décrivant un mécanisme moléculaire qui pourrait expliquer pourquoi le poids perdu revient. Le travail porte sur l'asprosine, une hormone libérée par le tissu adipeux qui signale au cerveau de stimuler l'appétit. Chez la souris, l'obésité modifiait l'activité des cellules graisseuses de telle sorte que l'asprosine restait élevée après la perte de poids. Les chercheurs appellent ce phénomène mémoire de l'obésité. Un laboratoire distinct dirigé par Seth J. Field a confirmé que le changement cellulaire persistait, selon SciTechDaily. Les auteurs préviennent que les preuves chez l'humain proviennent de jeux de données publics et demandent encore une confirmation directe.

L'astronomie a produit une première plus nette. Un article soumis à arXiv le 15 septembre rapporte la première détection directe d'une émission radio aurorale provenant d'une exoplanète, la planète géante beta Pictoris b, grâce au réseau MeerKAT. Les auteurs, Kevin N. Ortiz Ceballos, Edo Berger et Yvette Cendes, rapportent des sursauts rapides, récurrents et fortement polarisés circulairement à des fréquences de 0,85 à 3,5 GHz. Ils identifient l'émission comme un rayonnement maser cyclotron électronique, ce qui implique un champ magnétique d'au moins 1,25 kG au niveau de la planète. Le résumé indique clairement qu'aucune détection radio n'avait auparavant été localisée sans ambiguïté sur une planète extrasolaire plutôt que sur son étoile hôte.

Voilà à quoi ressemble une revendication de découverte quand la mesure fait l'argumentation. Il y a un signal, un mécanisme physique qui l'explique, et un nombre qui découle du mécanisme. Personne n'a besoin d'être convaincu.

Pourquoi la querelle autour d'Anthropic ne se réglera pas de sitôt

La raison est structurelle : les entreprises d'IA sont en course les unes contre les autres. MIT Technology Review conclut son analyse en notant que, tandis que Sam Altman et Dario Amodei se livrent concurrence, relever la barre de ce qui compte comme percée scientifique de l'IA est peut-être la dernière de leurs préoccupations. Des barres basses font un meilleur marketing. La proposition de Harrington, que les entreprises tiennent la barre haute pour qu'un vrai résultat soit reçu à sa juste mesure, leur demande d'agir contre leurs propres intérêts.

Le bruit a aussi un coût pratique. Quand un résultat de détection de motifs est présenté comme un moment de l'ampleur de CRISPR, les biologistes qui auraient pu s'intéresser à l'outil doivent passer leur temps à expliquer pourquoi ce n'en est pas un. La réaction de Mestre, abandonner Claude à cause d'une question non résolue sur l'usage éventuel de ses conversations pour alimenter le système, est un petit indice de la vitesse à laquelle la confiance s'effrite.

Pour l'instant, le résumé honnête reste étroit. Les systèmes d'IA produisent des résultats utiles et vérifiables dans le travail sur les protéines et les matériaux, et le dossier en contient plusieurs exemples. Ils sont aussi crédités de découvertes d'une manière que les scientifiques en activité rejettent. Les deux choses sont vraies en même temps, et c'est dans l'écart entre elles que se jouera le prochain débat.