Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Google znakuje wodnymi znakami białka zaprojektowane przez AI, gdy Anthropic ogłasza pierwsze odkrycie enzymu

Google DeepMind opublikował w środę metodę osadzania znaków wodnych w sekwencjach białek projektowanych przez sztuczną inteligencję. Ten środek bezpieczeństwa biologicznego pojawia się w momencie, gdy Anthropic twierdzi, że jej agenci Claude dokonali pierwszego odkrycia naukowego przez system AI.

NaukaNewsRenata PawlakOpublikowano: 2 października 20266 min czytaniaŹródła 4
Google znakuje wodnymi znakami białka zaprojektowane przez AI, gdy Anthropic ogłasza pierwsze odkrycie enzymu

Zespół DeepMind w Google opublikował w środę pracę naukową. Opisuje w niej sposób znakowania wodnego sekwencji białek projektowanych przez sztuczną inteligencję, podaje Ars Technica. System opiera się na technologii SynthID firmy Google, która dodaje niewidoczny sygnał do tekstów i obrazów generowanych przez AI.

To najnowsza próba odpowiedzi na otwarte pytanie. Jak odróżnić białko zaprojektowane w zaufanym laboratorium od takiego, które powstało gdzie indziej? Narzędzia do przesiewania sekwencji DNA w ogóle nie rozpoznają białek wygenerowanych przez AI. Problem dotyczy gęstości informacji. Białka to łańcuchy złożone z zaledwie 20 aminokwasów, a wiele z tych pozycji jest kluczowych dla działania. Zmień niewłaściwy aminokwas i białko przestaje działać. Według Ars Technica SynthID działa przez zaburzanie prawdopodobieństwa pewnych wyborów podejmowanych przez AI. To zaburzenie rozkłada się na cały wynik. W obrazie z milionami pikseli to łatwe. Białko o długości 500 aminokwasów jest przy tym maleńkie.

Dlaczego białka trudno znakować

Ryzyko niepowodzenia szło w obie strony. Znak wodny może nieść zbyt mało sygnału, by dało się go wykryć. Albo model może tak zniekształcić sekwencję, żeby zmieścić znak, że białko straci aktywność. Według Ars Technica zespół DeepMind to przetestował, zamiast zakładać, że zadziała. Te same narzędzia do projektowania białek potrafią tworzyć enzymy trawiące plastik albo blokujące białka jadu. Można je też skierować na toksyny lub białka wirusowe. Używane obecnie oprogramowanie do przesiewania nie oznacza białek zaprojektowanych przez AI. Nikt ich nie scharakteryzował wystarczająco dobrze, by wiedzieć, które stanowią zagrożenie.

Twierdzenie Anthropic i pytania wokół niego

1 października Endpoints News opublikował rozmowę Q&A z Ericiem Kaudererem-Abramsem, szefem nauk przyrodniczych w Anthropic. Dotyczyła badań nad enzymami, laboratorium biologicznego firmy i pipeline'u przedklinicznego. Redakcja zauważyła, że Anthropic poinformowała tydzień wcześniej, iż jej system AI dokonał pierwszego odkrycia naukowego. Agenci Claude zidentyfikowali nowy układ enzymatyczny. To twierdzenie nie przeszło bez sprzeciwu. W zestawieniach Google News pojawił się tekst z The Scientist z 29 września. Pytano w nim, czy przełom biologiczny Anthropic nie został zapożyczony z pracy innego naukowca.

Artykuł The Scientist nie jest dostępny poza tytułem i adresem URL, więc treści tego pytania nie da się tu ocenić. Roszczenie o pierwszeństwie jest sporne. Wynik Anthropic i praca DeepMind o znakowaniu wodnym nie są konkurencyjnymi rozwiązaniami tego samego problemu. Leżą po przeciwnych stronach pewnej granicy. Jedno dotyczy tego, co systemy AI potrafią wytworzyć. Drugie tego, jak ktokolwiek inny może zweryfikować, co wytworzyły.

Benchmarki, które mierzą niewłaściwą rzecz

Weryfikacja to szerszy problem niż projektowanie białek. Praca przesłana do arXiv 29 września przedstawia CARAT. Autorami są Jiajun Wu, Jian Yang, Zixiang Ni, Zhenzhu Li i Bin Chong. Benchmark sprawdza, czy duże modele językowe nastawione na materiały rozumują o strukturach krystalicznych, czy po prostu kopiują odpowiedzi wydrukowane w danych wejściowych. Autorzy zwracają uwagę, że dokładność nie pozwala odróżnić jednego od drugiego. Opis struktury często zawiera właśnie to pole, według którego jest oceniany. Model może więc wypaść dobrze, powtarzając to, co mu pokazano. CARAT trzyma pytanie i wzorcową odpowiedź w stałej postaci w ośmiu dopasowanych widokach. Każdą relację strukturalną nazywa osobno w czymś, co autorzy nazywają GraphSpace.

Wyniki zawierają autokrytykę. W najtrudniejszych rodzinach widok ugruntowany jest wart 17,3 punktu więcej niż dane wejściowe oparte na wzorach, podaje praca. GraphSpace bije zwykły graf periodyczny o 19,3 punktu. Autorzy rozkładają ten margines. Tam, gdzie zwykłe przedstawienie już zawiera wszystko, czego potrzebuje pytanie, zysk wynosi 1,96 punktu. Tam, gdzie całkowicie pomija te pola, zysk wynosi 46,7 punktu. Ich wniosek jest taki, że główna liczba mierzy przede wszystkim to, czego brakowało punktowi odniesienia.

Praca atakuje też własny benchmark. Reguła, która pomija powiązanie i czyta listę bezpośrednio, odpowiedziała poprawnie w czterech z siedmiu wzmocnionych rodzin. Autorzy przebudowywali benchmark, aż jedenaście takich skrótów znalazło się blisko poziomu przypadku. Na zamrożonym modelu system cytował powiązanie, ale zwracał tę samą odpowiedź, gdy powiązanie przekierowano, w 95,6% par przypadków. Powtarzał relację, nie używając jej. Po dopasowanym nadzorze liczba sięgnęła 99,8%. Usunięcie powiązania obniżyło skuteczność do 23,4%, poniżej 27,0% osiąganych przez najlepszy skrót.

Podsumowanie samej pracy jest dosadne: zamrożony model powtarza relację, nie używając jej, w 95,6% par przypadków.

To pożyteczna korekta w momencie, gdy wyniki AI w nauce napływają szybciej, niż da się je sprawdzić. Model, który recytuje strukturę krystaliczną, i model, który na jej podstawie rozumuje, wyglądają identycznie na tabeli wyników. Białko zaprojektowane przez AI i białko naturalne wyglądają identycznie dla przesiewacza DNA w ten sam sposób.

Tło: co dzieje się w tej dziedzinie

Aktywność komercyjna wokół projektowania białek i materiałów z pomocą AI trwała w tym samym okresie. 1 października PA Media poinformowała, że Hansa Biopharma nawiązuje współpracę z Cradle, by rozwijać projektowanie i inżynierię białek z pomocą AI. Bioengineer.org podał 30 września, że przepis prowadzony przez AI okiełznał chaos materiałów perowskitowych o wysokiej entropii do ogniw słonecznych. R&D World poinformował tego samego dnia, że jego spółka macierzysta Arrowfly uruchomiła AI for Engineers, platformę skierowaną do inżynierów poruszających się w świecie AI.

Po stronie badań Nature opublikowało pracę 28 września, według zestawienia Google News. Opisywała przyspieszone odkrywanie termostabilnych szczepionek mRNA-lipidowych z użyciem oszczędnej w danych AI. A 1 października Stanford HAI ogłosił 15 nowych badaczy nauk o danych. Żadne z tych doniesień nie jest tego samego rodzaju co schemat znakowania wodnego czy benchmark rozumowania. Wyjaśniają, dlaczego problem weryfikacji ma znaczenie. Coraz szerszy zestaw laboratoriów, start-upów i firm farmaceutycznych pcha naprzód projektowanie białek i odkrywanie materiałów. Narzędzia do sprawdzania ich wyników nie rozwijają się w tym samym tempie.

Praca DeepMind nad znakami wodnymi sama w sobie nie jest narzędziem przesiewowym, jak opisuje ją Ars Technica. Nie identyfikuje groźnych białek. Identyfikuje, które białka pochodzą od zaufanego projektanta, żeby do wszystkiego innego podchodzić z większą podejrzliwością. To węższe twierdzenie, niż może się na pierwszy rzut oka wydawać. Zależy od tego, czy projektanci w ogóle zdecydują się używać znaku wodnego.

Starszy kontekst

Doniesienie ScienceDaily z 25 września opisuje dwa nowe gatunki kikutnic z Salish Sea. Opiera się na badaniu Uniwersytetu Kolumbii Brytyjskiej opublikowanym w Organisms Diversity & Evolution. Główny autor Cormac Toler-Scott mówił, że interesowało go, jak na kikutnice wpływają zmiana klimatu i działalność człowieka. Nie znalazł istniejących prac. Badanie zebrało okazy między wrześniem 2023 a sierpniem 2024 na głębokościach do 18 metrów. To pierwsze nowe gatunki kikutnic formalnie opisane z Salish Sea od blisko 100 lat.

To nie historia o AI. To przypomnienie problemu punktu odniesienia, który przewija się przez wszystko powyżej. Gatunki były tam cały czas i nikt ich nie opisał. Tak samo jest z białkami zaprojektowanymi przez AI. Istnieją, powstają i do niedawna nie było uzgodnionego sposobu, by je oznaczać.

Komentarze 0

Źródła

4
  1. 01Google figures out how to watermark AI-designed proteinsEN
  2. 02Q&A: Anthropic's life sciences team talk Claude's first scientific discoveryEN
  3. 03CARAT: Do Materials LLMs Reason or Recite?EN
  4. 04Scientists discovered two bizarre new sea spiders that are "nightmare fuel"EN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Renata Pawlak

Renata Pawlak

Nauka i zdrowie

Renata Pawlak zajmuje się w FLASH24 nauką i zdrowiem, opierając teksty na publikacjach recenzowanych, komunikatach instytucji i danych źródłowych, a nie na doniesieniach bez pokrycia. Przy każdej liczbie sprawdza metodologię badania, wielkość próby i jednostki, a wyniki porównuje z wcześniejszymi pracami na ten sam temat. Czeka na comiesięczne raporty GUS i NFZ, rozmawia z lekarzami oraz fizykami, a przed publikacją pyta autorów o ograniczenia ich wniosków. Prywatnie interesuje się fizyką materiałów i obserwuje niebo przez własny teleskop, co pomaga jej czytać prace z dziedzin ścisłych. Nie publikuje niczego, czego nie może potwierdzić w co najmniej dwóch niezależnych źródłach.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.