Twierdzenie laboratorium AI Anthropic dzieli biologów, a spór o odkrycie białka się rozszerza

Laboratorium biologii molekularnej Anthropic, obsadzone agentami Claude, wskazało powtarzający się wzorzec wokół znanego enzymu. Firma twierdzi, że nikt go wcześniej nie skatalogował. Ogłoszona w zeszłym tygodniu i prześwietlona przez MIT Technology Review 28 września teza stała się najostrzejszym jak dotąd publicznym sporem o to, co AI może zgodnie z prawdą uznać za swoje odkrycie w naukach o życiu.

MIT Technology Review opisało ten system jako 950 agentów pracujących przez 21 godzin. Nie powstała przy tym nowa sekwencja DNA, podał portal. Agenci znaleźli powtarzający się wzorzec wokół znanego enzymu, a w komunikacie Anthropic nazwał go "przypominającym" prace, które doprowadziły do CRISPR. To słowo zrobiło dużo roboty i tu zaczął się kłopot.

Problem z poprzeczką

Krytyka przyszła szybko i z wnętrza środowiska. Biolog Lucas Harrington napisał w poście, który stał się viralem, że "znalezienie dziwnego skupiska genów i powtórzeń to często łatwa część. Trudna część, i źródło prawdziwych odkryć, to ustalenie, co ten układ faktycznie robi". Post poparł później prezes i dyrektor generalny Eli Lilly. MIT Technology Review zacytowało go wprost. Sam Harrington przekonywał, jak podał portal, że firmy AI powinny "postawić poprzeczkę wysoko już teraz, żeby gdy AI naprawdę odkryje fundamentalnie nowy mechanizm biologiczny, wszyscy docenili, jak wielka to sprawa".

Potem zrobiło się jeszcze mętniej. Mario Rodríguez Mestre, biolog z Uniwersytetu w Kopenhadze, powiedział w weekend, że jego zespół znalazł ten sam wzorzec. Doniósł o tym New York Times, a za nim MIT Technology Review. Mestre regularnie używał Claude'a w pracy i zapytał, czy zespół Anthropic uczył się z jego rozmów. Anthropic temu zaprzecza. Mestre i tak przestał korzystać z Claude'a.

"Trudna część, i źródło prawdziwych odkryć, to ustalenie, co ten układ faktycznie robi".

Nic z tego nie znaczy, że sama praca była bezwartościowa. MIT Technology Review zauważa, że zawężenie 200 000 kandydatów do kilku wartych przetestowania to prawdziwa praca naukowa. Chatbot ogólnego przeznaczenia, który sobie z tym radzi, jest godny uwagi nawet wtedy, gdy ludzie sterują i przeprowadzają eksperymenty. Problem tkwi w ramach. Gdy pytanie brzmi, czy Claude sam dokonał odkrycia, zostają dwie odpowiedzi: przełom albo klapa. Wszystko pomiędzy się spłaszcza.

Jak naprawdę wygląda dziś praca nad białkami

Spór wokół Anthropic ma znaczenie poza jedną firmą, bo odkrywanie białek i materiałów to obszar, w którym AI po cichu zbiera prawdziwe, sprawdzalne wyniki. Wzorzec w całym dossier jest mniej dramatyczny niż komunikat prasowy i bardziej użyteczny.

Wśród nagłówków zarejestrowanych razem z materiałami o Anthropic jest praca nad termostabilnymi szczepionkami mRNA opartymi na nanocząstkach lipidowych, z wykorzystaniem tego, co Nature nazwało AI wydajnym danych, opublikowana 28 września. Osobno badacze donieśli o użyciu przewidywania struktury przez AI do przyspieszenia odkrywania klejów molekularnych, małych cząsteczek, które mogą zmuszać białka do łączenia się w sposób pozwalający leczyć choroby. Żadna z tych tez nie opiera się na przypisaniu AI skoku pojęciowego. Opierają się na tym, że AI przeszukuje i szereguje dużo szybciej, niż potrafią ludzie.

Ta różnica to cały spór. Systemy AI są świetne w tej części nauki, która jest w gruncie rzeczy segregowaniem, a środowisko powoli mówi to wprost. MIT Technology Review zauważyło tę samą dynamikę w matematyce: we wrześniu OpenAI ogłosiło, że jego agenci złamali problem wart milion dolarów, a w ciągu kilku tygodni dyskusja przeszła na to, czy akurat ten problem był tym, na którym zależało matematykom. Portal zastrzegł, że krytyka nie twierdziła, iż rozwiązanie OpenAI jest błędne, tylko że wynik mógł nie być tym ważnym. Pojawił się też zarzut matematyka, że modele użyły części jego pracy bez uznania.

Spór nie dotyczy więc poprawności. Dotyczy znaczenia i tego, kto ma o nim decydować. To trudniejsza rzecz do publicznego rozstrzygania niż błędna odpowiedź.

Weryfikacja nadchodzi z innej strony

Gdy trwa spór o autorstwo odkrycia, inne zespoły pracują nad bardziej przyziemnym problemem: czy biologii tworzonej przez AI można w ogóle ufać. Nagłówki z ostatniego tygodnia opisują DeepMind znakującego białka, żeby laboratoria mogły sprawdzić, na co patrzą, oraz osobne prace nad znakami wodnymi SynthID Bio dla białek projektowanych przez AI. To próby uczynienia wyników AI identyfikowalnymi, a nie sławnymi.

Strona komercyjna porusza się w tym samym nieszarmanckim tempie. Hansa Biopharma poinformowała, że nawiązuje współpracę z Cradle nad projektowaniem i inżynierią białek z użyciem AI. To praca kontraktowa, nie roszczenie o przełom, i prawdopodobnie lepsza wskazówka, gdzie naprawdę jest ta technologia, niż jakiekolwiek ogłoszenie o agentach odkrywających coś.

Według MIT Technology Review część problemu leży w sposobie, w jaki Anthropic przedstawia własne prace. Portal przekonuje, że firmy AI nie pokazują swoich systemów jako narzędzi tak, jak narzędziami są mikroskopy czy superkomputery. Utrzymują, że systemy same dokonują odkryć, co słabo pasuje do tego, jak nauka zwykle wytwarza nową wiedzę: przez współpracę i rosnący zestaw instrumentów. Ta niezgodność nie tylko drażni biologów. Sprawia, że prawdziwy postęp trudniej rozpoznać, gdy już się pojawi, bo dostępne wyroki to tylko dwie skrajności.

Reszta działu naukowego

W pozostałej części dossier wieści badawcze z tego tygodnia są nietypowo konkretne. Naukowcy z Harrington Discovery Institute w University Hospitals oraz Case Western Reserve University opublikowali w Cell Reports wyniki opisujące mechanizm molekularny, który może wyjaśniać, dlaczego stracona waga wraca. Praca koncentruje się na asprosynie, hormonie uwalnianym przez tkankę tłuszczową, który sygnalizuje mózgowi, by pobudzić apetyt. U myszy otyłość zmieniła aktywność komórek tłuszczowych tak, że asprosyna pozostawał podniesiony po utracie wagi. Badacze nazywają ten efekt pamięcią otyłości. Osobne laboratorium pod kierunkiem Setha J. Fielda potwierdziło, że zmiana komórkowa się utrzymywała, podało SciTechDaily. Autorzy zastrzegają, że dowody u ludzi pochodzą z publicznie dostępnych zbiorów danych i wciąż wymagają bezpośredniego potwierdzenia.

Astronomia dała czystszy pierwszy raz. Praca przesłana do arXiv 15 września opisuje pierwsze bezpośrednie wykrycie radioemisji auroralnej z egzoplanety, olbrzymiej planety beta Pictoris b, przy użyciu sieci MeerKAT. Autorzy, Kevin N. Ortiz Ceballos, Edo Berger i Yvette Cendes, podają szybkie, powtarzające się i silnie kołowo spolaryzowane rozbłyski na częstotliwościach od 0,85 do 3,5 GHz. Rozpoznają tę emisję jako promieniowanie masera cyklotronowego elektronów, co wskazuje na pole magnetyczne o indukcji co najmniej 1,25 kG na planecie. Streszczenie mówi wprost, że żadnego wykrycia radiowego nie udało się wcześniej jednoznacznie zlokalizować na planecie pozasłonecznej, a nie na jej gwieździe macierzystej.

Tak wygląda roszczenie o odkrycie, gdy argumentem jest sam pomiar. Jest sygnał, mechanizm fizyczny, który go wyjaśnia, i liczba, która z tego mechanizmu wynika. Nikogo nie trzeba do niczego przekonywać.

Dlaczego spór o Anthropic szybko się nie rozstrzygnie

Powód jest strukturalny: firmy AI ścigają się ze sobą. MIT Technology Review kończy analizę uwagą, że gdy Sam Altman i Dario Amodei rywalizują, podnoszenie poprzeczki dla tego, co liczy się jako naukowy przełom AI, może być ostatnią rzeczą, o jakiej myślą. Niższe poprzeczki lepiej się sprzedają. Propozycja Harringtona, żeby firmy trzymały ją wysoko i pozwoliły prawdziwemu wynikowi wybrzmieć, wymaga działania wbrew własnym interesom.

Szum ma też koszt praktyczny. Gdy wynik polegający na znalezieniu wzorca jest reklamowany jako moment na miarę CRISPR, biolodzy, którzy inaczej zajęliby się tym narzędziem, muszą tłumaczyć, dlaczego to nie jest nim. Reakcja Mestrego, który porzucił Claude'a z powodu nierozstrzygniętego pytania, czy jego rozmowy zasiliły system, to drobny dowód na to, jak szybko eroduje zaufanie.

Na razie uczciwe podsumowanie jest wąskie. Systemy AI dają użyteczne, sprawdzalne wyniki w pracy nad białkami i materiałami, a dossier zawiera kilka tego przykładów. Przypisuje się im też odkrycia w sposób, który odrzucają pracujący naukowcy. Jedno i drugie jest prawdą naraz, a różnica między nimi to miejsce, w którym rozegra się następny spór.