Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

Google inserisce watermark nelle proteine progettate dall'IA, mentre Anthropic rivendica la prima scoperta enzimatica

Google DeepMind ha pubblicato mercoledì un metodo per inserire watermark nelle sequenze proteiche progettate dall'IA, una misura di biosicurezza che arriva mentre Anthropic sostiene che i suoi agenti Claude abbiano prodotto la prima scoperta scientifica di un sistema di IA.

ScienzaNotiziaSara GalloPubblicato: 2 ottobre 20266 min di letturaFonti 4
Google inserisce watermark nelle proteine progettate dall'IA, mentre Anthropic rivendica la prima scoperta enzimatica

Il team DeepMind di Google ha pubblicato mercoledì un articolo di ricerca che descrive un modo per inserire watermark nelle sequenze proteiche progettate dall'intelligenza artificiale, secondo Ars Technica. Il sistema si basa sulla tecnologia SynthID di Google, che aggiunge un segnale impercettibile ai testi e alle immagini generati dall'IA.

È il tentativo più recente di rispondere a una domanda aperta da quasi un anno: come si distingue una proteina progettata da un laboratorio affidabile da una che non lo è, quando gli strumenti usati per analizzare le sequenze di DNA non riescono affatto a riconoscere le proteine generate dall'IA? Il problema è di densità di informazione. Le proteine sono stringhe di appena 20 amminoacidi, e molte di quelle posizioni sono portanti: cambia il residuo sbagliato e la proteina smette di funzionare. Ars Technica riferisce che SynthID funziona alterando la probabilità di certe scelte compiute dall'IA, così che la distorsione si distribuisca su tutto l'output. In un'immagine con milioni di pixel è facile. Una proteina di 500 amminoacidi, al confronto, è minuscola.

Perché le proteine sono difficili da marcare

Il rischio di fallire correva in entrambe le direzioni. Il watermark poteva non portare abbastanza segnale per essere rilevato, oppure il modello poteva distorcere la sequenza al punto da rendere inattiva la proteina risultante. Il team DeepMind, secondo Ars Technica, ha fatto dei test invece di dare per scontato che funzionasse. Il contesto di quel lavoro è che gli stessi strumenti di progettazione proteica che hanno prodotto enzimi capaci di digerire la plastica o di bloccare proteine velenose possono essere puntati anche contro tossine o proteine virali. I software di screening in uso non segnalano le proteine progettate dall'IA, perché nessuno le ha caratterizzate abbastanza da sapere quali siano pericolose.

La rivendicazione di Anthropic e le domande che la circondano

Il 1 ottobre Endpoints News ha pubblicato una Q&A con Eric Kauderer-Abrams, responsabile delle scienze della vita di Anthropic, sulla ricerca sugli enzimi, il laboratorio di biologia dell'azienda e una pipeline preclinica. La testata ha osservato che Anthropic ha dichiarato la settimana scorsa che il suo sistema di IA ha compiuto la sua prima scoperta scientifica, con gli agenti Claude che avrebbero identificato un nuovo sistema enzimatico. Quella rivendicazione non è passata senza contestazioni. Le liste di Google News hanno fatto emergere un articolo di The Scientist datato 29 settembre che si chiede se il presunto passo avanti biologico di Anthropic sia stato preso in prestito dal lavoro di un altro scienziato.

L'articolo di The Scientist non è in questo dossier oltre al titolo e all'URL, quindi la sostanza di quella domanda non è valutabile qui; vale la pena notare solo che la rivendicazione di priorità è contestata. Il risultato di Anthropic e l'articolo di DeepMind sul watermarking non sono soluzioni concorrenti allo stesso problema, ma stanno su lati opposti di una linea. Uno riguarda ciò che i sistemi di IA possono produrre. L'altro riguarda come chiunque altro possa verificare ciò che hanno prodotto.

Benchmark che misurano la cosa sbagliata

La verifica è un problema più ampio della progettazione proteica. Un articolo inviato ad arXiv il 29 settembre da Jiajun Wu, Jian Yang, Zixiang Ni, Zhenzhu Li e Bin Chong presenta CARAT, un benchmark pensato per verificare se i modelli linguistici di grandi dimensioni orientati ai materiali ragionano sulle strutture cristalline o si limitano a copiare le risposte stampate nei loro input. Il punto degli autori è che l'accuratezza non distingue le due cose. Una descrizione strutturale spesso stampa proprio il campo su cui viene valutata, quindi un modello può ottenere un buon punteggio ripetendo ciò che gli è stato mostrato. CARAT tiene fissi domanda e risposta corretta su otto viste appaiate e nomina ogni relazione strutturale separatamente in quello che gli autori chiamano GraphSpace.

I risultati includono un'autocritica. Sulle famiglie più difficili, la vista fondata vale 17,3 punti in più rispetto agli input di formula, si legge nell'articolo. GraphSpace batte un semplice grafo periodico di 19,3 punti, ma gli autori scompongono quel margine: dove la rappresentazione semplice contiene già tutto ciò che serve alla domanda, il guadagno è di 1,96 punti, e dove omette del tutto quei campi, il guadagno è di 46,7 punti. La loro conclusione è che il numero di testata misura soprattutto ciò che mancava alla baseline.

L'articolo attacca anche il proprio benchmark. Una regola che salta un collegamento e legge direttamente la lista rispondeva a quattro delle sette famiglie rafforzate, così gli autori hanno ricostruito il benchmark finché undici di queste scorciatoie non sono scese vicino al caso. Su un modello congelato, il sistema citava un collegamento ma restituiva la stessa risposta quando il collegamento veniva reindirizzato nel 95,6% dei casi appaiati: ripeteva la relazione senza usarla. Dopo una supervisione appaiata la cifra raggiungeva il 99,8%, e cancellare il collegamento faceva scendere la prestazione al 23,4%, sotto il 27,0% ottenuto dalla migliore scorciatoia.

Il riassunto degli stessi autori è netto: il modello congelato ripete la relazione senza usarla, nel 95,6% dei casi appaiati.

È una correzione utile in un momento in cui i risultati dell'IA per la scienza arrivano più in fretta di quanto si riesca a verificarli. Un modello che recita una struttura cristallina e un modello che ne ragiona sono identici su una classifica, allo stesso modo in cui una proteina progettata dall'IA e una naturale sono identiche per uno strumento di screening del DNA.

Contesto: cosa si muove nel settore

L'attività commerciale intorno alla progettazione di proteine e materiali guidata dall'IA è proseguita nello stesso periodo. Il 1 ottobre PA Media ha riferito che Hansa Biopharma collabora con Cradle per portare avanti la progettazione e l'ingegnerizzazione di proteine guidate dall'IA. Bioengineer.org ha riferito il 30 settembre che una ricetta guidata dall'IA ha domato il caos dei materiali solari in perovskite ad alta entropia. R&D World ha riferito lo stesso giorno che la sua società madre Arrowfly ha lanciato AI for Engineers, una piattaforma rivolta agli ingegneri che si orientano nell'IA.

Sul fronte della ricerca, Nature ha pubblicato il 28 settembre un lavoro che descrive la scoperta accelerata di vaccini mRNA-lipid nanoparticle termostabili grazie a un'IA efficiente nei dati, secondo una lista di Google News. E il 1 ottobre Stanford HAI ha annunciato 15 nuovi studiosi di data science. Nessuno di questi è lo stesso tipo di rivendicazione di uno schema di watermarking o di un benchmark sul ragionamento, ma spiegano perché il problema della verifica conti. La progettazione proteica e la scoperta dei materiali sono spinte avanti da un insieme sempre più ampio di laboratori, startup e aziende farmaceutiche. Gli strumenti per controllare il loro output non si muovono alla stessa velocità.

Dal canto suo, il lavoro di DeepMind sul watermarking, come lo descrive Ars Technica, non è uno strumento di screening. Non identifica le proteine pericolose. Identifica quali proteine provengono da un progettista affidabile, così che tutto il resto possa essere trattato con maggiore sospetto. È una rivendicazione più stretta di quanto possa sembrare a prima vista, e dipende dal fatto che i progettisti scelgano di usare il watermark.

Contesto più lontano

Il dossier include anche un servizio di ScienceDaily del 25 settembre, basato su uno studio della University of British Columbia pubblicato su Organisms Diversity & Evolution, che descrive due nuove specie di ragni marini del Salish Sea. L'autore principale Cormac Toler-Scott ha detto di essere interessato a come i ragni marini siano colpiti dal cambiamento climatico e dal disturbo umano, e di non aver trovato lavori esistenti. Lo studio, che ha raccolto esemplari tra settembre 2023 e agosto 2024 a profondità fino a 18 metri, segna la prima nuova specie di ragno marino descritta formalmente dal Salish Sea in quasi 100 anni.

Non è una storia di IA. È un promemoria del problema di base che attraversa tutto quanto sopra: le specie erano lì, e nessuno le aveva descritte. Lo stesso vale per le proteine progettate dall'IA. Esistono, vengono prodotte, e fino a poco tempo fa non c'era un modo concordato per marcarle.

Commenti 0

Fonti

4
  1. 01Google figures out how to watermark AI-designed proteinsEN
  2. 02Q&A: Anthropic's life sciences team talk Claude's first scientific discoveryEN
  3. 03CARAT: Do Materials LLMs Reason or Recite?EN
  4. 04Scientists discovered two bizarre new sea spiders that are "nightmare fuel"EN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Sara Gallo

Sara Gallo

Scienza e salute

Sara Gallo scrive di scienza e salute per FLASH24, partendo da studi originali, comunicati di enti di ricerca e dati di agenzie sanitarie, senza fermarsi ai titoli. Per ogni articolo controlla campioni, intervalli di confidenza e conflitti di interesse, confrontando i numeri con le serie storiche di ISS ed Eurostat. Segue le revisioni sistematiche in uscita e attende i briefing del ministero della Salute, parlando con ricercatori e clinici prima di pubblicare. La sua formazione in fisica dei materiali e il telescopio che usa nel tempo libero si ritrovano nella cura con cui legge misure e immagini. Non pubblica stime senza fonte primaria.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.