Google versieht KI-entworfene Proteine mit Wasserzeichen, während Anthropic die erste KI-Enzym-Entdeckung für sich reklamiert
Google DeepMind hat am Mittwoch ein Verfahren veröffentlicht, mit dem sich Wasserzeichen in KI-entworfene Proteinsequenzen einbetten lassen. Die Biosecurity-Maßnahme erscheint zu einem Zeitpunkt, an dem Anthropic behauptet, seine Claude-Agenten hätten die erste wissenschaftliche Entdeckung eines KI-Systems gemacht.

Das DeepMind-Team von Google hat am Mittwoch eine Forschungsarbeit veröffentlicht, die beschreibt, wie sich von künstlicher Intelligenz entworfene Proteinsequenzen mit Wasserzeichen versehen lassen, berichtet Ars Technica. Das System baut auf Googles SynthID-Technologie auf, die KI-generierten Texten und Bildern ein nicht wahrnehmbares Signal hinzufügt.
Es ist der jüngste Versuch, eine seit fast einem Jahr offene Frage zu beantworten: Wie unterscheidet man ein Protein, das in einem vertrauenswürdigen Labor entworfen wurde, von einem, bei dem das nicht der Fall war, wenn die Software zur Prüfung von DNA-Sequenzen KI-entworfene Proteine überhaupt nicht erkennt? Das Problem ist eines der Informationsdichte. Proteine sind Ketten aus nur 20 Aminosäuren, und viele dieser Positionen sind tragend: Ändert man den falschen Rest, funktioniert das Protein nicht mehr. Ars Technica zufolge funktioniert SynthID, indem es die Wahrscheinlichkeit bestimmter Entscheidungen der KI verschiebt, sodass sich die Verschiebung über die gesamte Ausgabe verteilt. Bei einem Bild mit Millionen Pixeln ist das einfach. Ein Protein mit 500 Aminosäuren ist im Vergleich winzig.
Warum Proteine schwer zu markieren sind
Das Risiko des Scheiterns bestand in beide Richtungen. Das Wasserzeichen trägt möglicherweise nicht genug Signal, um erkennbar zu sein, oder das Modell verzerrt die Sequenz so stark, um ein Wasserzeichen unterzubringen, dass das entstehende Protein inaktiv ist. Das DeepMind-Team hat es laut Ars Technica getestet, statt anzunehmen, dass es funktioniert. Der Hintergrund dieser Arbeit: Dieselben Werkzeuge für Proteindesign, die Enzyme hervorgebracht haben, die Plastik abbauen oder Giftproteine blockieren können, lassen sich auch auf Toxine oder virale Proteine richten. Die derzeit eingesetzte Prüfsoftware schlägt bei KI-entworfenen Proteinen nicht an, weil niemand sie gut genug charakterisiert hat, um zu wissen, welche gefährlich sind.
Anthropics Behauptung und die Fragen darum
Am 1. Oktober veröffentlichte Endpoints News ein Q&A mit Eric Kauderer-Abrams, dem Leiter der Life Sciences bei Anthropic, über Enzymforschung, das Biolabor des Unternehmens und eine präklinische Pipeline. Das Medium merkte an, Anthropic habe in der Vorwoche erklärt, sein KI-System habe die erste wissenschaftliche Entdeckung gemacht, wobei Claude-Agenten ein neues Enzymsystem identifizierten. Diese Behauptung ist nicht unwidersprochen geblieben. In den Google-News-Listen tauchte ein Beitrag von The Scientist vom 29. September auf, der fragt, ob Anthropics Biologie-Durchbruch aus der Arbeit eines anderen Wissenschaftlers übernommen wurde.
Der Artikel von The Scientist ist in diesem Dossier nur mit Titel und URL enthalten, sodass sich der Kern dieser Frage hier nicht bewerten lässt. Festhalten lässt sich lediglich, dass der Prioritätsanspruch umstritten ist. Das Ergebnis von Anthropic und die Wasserzeichen-Arbeit von DeepMind sind keine konkurrierenden Lösungen für dasselbe Problem, sie stehen aber auf entgegengesetzten Seiten einer Linie. Das eine handelt davon, was KI-Systeme hervorbringen können. Das andere davon, wie jemand anderes überprüfen kann, was sie hervorgebracht haben.
Benchmarks, die das Falsche messen
Verifikation ist ein breiteres Problem als Proteindesign. Eine am 29. September bei arXiv eingereichte Arbeit von Jiajun Wu, Jian Yang, Zixiang Ni, Zhenzhu Li und Bin Chong stellt CARAT vor, einen Benchmark, der prüfen soll, ob materialwissenschaftliche Large Language Models über Kristallstrukturen schlussfolgern oder einfach Antworten abschreiben, die in ihren Eingaben stehen. Der Punkt der Autoren: Anhand der Genauigkeit lassen sich beide Fälle nicht unterscheiden. Eine Strukturbeschreibung enthält oft genau das Feld, gegen das bewertet wird, sodass ein Modell gut abschneiden kann, indem es wiederholt, was ihm gezeigt wurde. CARAT hält Frage und Goldantwort über acht abgeglichene Ansichten konstant und benennt jede strukturelle Beziehung einzeln in dem, was die Autoren GraphSpace nennen.
Die Ergebnisse enthalten eine Selbstkritik. Bei den schwierigsten Familien bringt die geerdete Ansicht 17,3 Punkte gegenüber Formeleingaben, heißt es in der Arbeit. GraphSpace schlägt einen einfachen periodischen Graphen um 19,3 Punkte, doch die Autoren schlüsseln diesen Vorsprung auf: Wo die einfache Darstellung bereits alles enthält, was die Frage braucht, beträgt der Gewinn 1,96 Punkte, und wo sie diese Felder ganz auslässt, beträgt der Gewinn 46,7 Punkte. Ihr Schluss: Die Schlagzeilenzahl misst vor allem, was der Baseline fehlte.
Die Arbeit greift auch ihren eigenen Benchmark an. Eine Regel, die einen Link überspringt und die Liste direkt liest, beantwortete vier von sieben gehärteten Familien, woraufhin die Autoren den Benchmark neu aufbauten, bis elf solcher Abkürzungen nahe am Zufall lagen. Bei einem eingefrorenen Modell zitierte das System einen Link, lieferte aber dieselbe Antwort, wenn der Link umgeleitet wurde, in 95,6% der gepaarten Fälle: Es wiederholte die Beziehung, ohne sie zu nutzen. Nach abgestimmter Supervision erreichte der Wert 99,8%, und das Löschen des Links drückte die Leistung auf 23,4%, unter die 27,0%, die die beste Abkürzung erzielte.
Die Zusammenfassung der Arbeit ist deutlich: Das eingefrorene Modell wiederholt die Beziehung, ohne sie zu nutzen, in 95,6% der gepaarten Fälle.
Das ist eine nützliche Korrektur in einem Moment, in dem Ergebnisse der KI für die Wissenschaft schneller eintreffen, als sie sich prüfen lassen. Ein Modell, das eine Kristallstruktur vorträgt, und ein Modell, das aus ihr schlussfolgert, sehen auf einem Leaderboard gleich aus, so wie ein KI-entworfenes Protein und ein natürliches für einen DNA-Scanner gleich aussehen.
Hintergrund: Was sich im Feld bewegt
Die kommerzielle Aktivität rund um KI-gesteuertes Protein- und Materialdesign hat im selben Zeitraum angehalten. Am 1. Oktober berichtete PA Media, Hansa Biopharma gehe eine Partnerschaft mit Cradle ein, um KI-gesteuertes Proteindesign und Engineering voranzubringen. Bioengineer.org berichtete am 30. September, ein KI-gesteuertes Rezept habe das Chaos hochgradig ungeordneter Perowskit-Solarmaterialien gezähmt. R&D World meldete am selben Tag, die Muttergesellschaft Arrowfly habe AI for Engineers gestartet, eine Plattform für Ingenieure, die sich mit KI befassen.
Auf der Forschungsseite veröffentlichte Nature am 28. September eine Arbeit, die die beschleunigte Entdeckung thermostabiler mRNA-Lipidnanopartikel-Impfstoffe mit dateneffizienter KI beschreibt, laut einem Google-News-Eintrag. Und am 1. Oktober kündigte Stanford HAI 15 neue Data-Science-Stipendiaten an. Nichts davon ist dieselbe Art von Behauptung wie ein Wasserzeichenverfahren oder ein Reasoning-Benchmark, aber es erklärt, warum das Verifikationsproblem zählt. Proteindesign und Materialentdeckung werden von einer wachsenden Zahl von Laboren, Start-ups und Pharmaunternehmen vorangetrieben. Die Werkzeuge zur Prüfung ihrer Ergebnisse bewegen sich nicht im selben Tempo.
Die Wasserzeichen-Arbeit von DeepMind, so wie Ars Technica sie beschreibt, ist für sich genommen kein Prüfwerkzeug. Sie identifiziert keine gefährlichen Proteine. Sie identifiziert, welche Proteine von einem vertrauenswürdigen Designer stammen, damit alles andere mit mehr Misstrauen behandelt werden kann. Das ist eine engere Behauptung, als es zunächst scheinen mag, und sie hängt davon ab, dass Designer sich überhaupt für das Wasserzeichen entscheiden.
Älterer Kontext
Das Dossier enthält außerdem einen ScienceDaily-Bericht vom 25. September, der auf einer in Organisms Diversity & Evolution veröffentlichten Studie der University of British Columbia basiert und zwei neue Asselspinnenarten aus der Salish Sea beschreibt. Der Erstautor Cormac Toler-Scott sagte, er habe sich dafür interessiert, wie Asselspinnen von Klimawandel und menschlichen Störungen betroffen sind, und keine bestehende Arbeit gefunden. Die Studie, die zwischen September 2023 und August 2024 in Tiefen bis 18 Metern Exemplare sammelte, markiert die erste neue, formal beschriebene Asselspinnenart aus der Salish Sea seit fast 100 Jahren.
Das ist keine KI-Geschichte. Es erinnert an das Ausgangsproblem, das sich durch alles oben zieht: Die Arten waren da, und niemand hatte sie beschrieben. Dasselbe gilt für KI-entworfene Proteine. Sie existieren, sie werden hergestellt, und bis vor Kurzem gab es keine vereinbarte Methode, sie zu kennzeichnen.
Quellen
4- 01Google figures out how to watermark AI-designed proteinsEN
- 02Q&A: Anthropic's life sciences team talk Claude's first scientific discoveryEN
- 03CARAT: Do Materials LLMs Reason or Recite?EN
- 04Scientists discovered two bizarre new sea spiders that are "nightmare fuel"EN
Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.
Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.
Kommentare
0- Noch keine Kommentare — seien Sie der Erste.