Un solo nucleo predittivo, sette mondi diversi

L'apprendimento automatico di solito procede per specializzazione. Reti diverse prevedono i fotogrammi successivi di un video, i movimenti di un manipolatore, il tempo atmosferico, le traiettorie delle molecole. Il gruppo di JEPA-Anything ha posto la domanda opposta: esiste un unico principio per costruire un modello predittivo, valido per sistemi radicalmente diversi?

Che cos'è un modello del mondo

Qui un modello del mondo è una rete che parte dalle informazioni disponibili, costruisce uno stato interno e con quello prevede un altro stato dello stesso sistema. Questo altro stato può essere il futuro nel tempo, una porzione nascosta di spazio, un altro punto di vista o l'effetto di un intervento. La famiglia JEPA (Joint-Embedding Predictive Architecture) sceglie di prevedere nello spazio delle rappresentazioni, non nei pixel grezzi. Così la capacità del modello va alla struttura che predice davvero qualcosa, non a riprodurre texture e rumore.

Il problema nasce quando scale e velocità di cambiamento diverse finiscono in un unico obiettivo di predizione. I segnali più facili e più forti occupano allora la maggior parte della capacità, mentre i cambiamenti sottili ma importanti vengono messi da parte. Gli autori rispondono con il meccanismo OPF (orthogonal predictive factorization). Lo stato obiettivo viene tagliato in sottospazi complementari, gestiti da rami di predizione separati, e poi ricomposto. I vincoli su ortogonalità dei fattori, loro attività e varianza dell'encoder impediscono ai rami di imparare la stessa cosa e proteggono dal collasso delle rappresentazioni. I fattori non sono assegnati in anticipo a grandezze fisiche precise: è la struttura dei dati a decidere che cosa rappresentano.

La prova su sette sistemi

Gli autori non si sono fermati al video o al controllo. Hanno testato lo stesso nucleo predittivo in sette ambiti: visione, biologia, traiettorie cliniche, controllo, dinamica molecolare, campi fisici e meteorologia. Ogni ambito mantiene il proprio modo di osservare, la propria costruzione della coppia contesto-obiettivo e il proprio encoder. In comune restano lo strato di predizione e un'interfaccia uniforme dello stato nascosto.

In un ambiente controllato (Pong nella versione a intervento) il modello è stato addestrato solo su dati con singole modifiche e testato su combinazioni di fattori mai viste. Sulla distribuzione di addestramento l'errore di predizione è sceso di circa l'11,7 per cento rispetto al JEPA standard. Sulle combinazioni inedite l'errore quadratico medio è calato di circa il 3,5 per cento. Il miglioramento è comparso in tutte e cinque le coppie di estrazioni.

Nel "Matched Dynamics Benchmark" le due architetture hanno ricevuto dati, encoder, scheletro di transizione dello stato, budget di calcolo e suddivisione della valutazione identici. JEPA-Anything ha migliorato il risultato in nove compiti su dieci, tra cui il 39,7 per cento sull'equazione di Burgers, il 39,3 per cento sull'equazione delle acque basse e il 10,5 per cento su WeatherBench 2. Separatamente sono state testate previsioni lunghe passo dopo passo, in cui i risultati del modello rientrano in ingresso.

L'esempio più chiaro riguarda l'astronomia. Al modello sono state date le posizioni e le velocità simulate dei pianeti, senza dirgli nulla sulle leggi di Keplero. L'analisi dei pattern predittivi interni ha rivelato una dipendenza della frequenza orbitale dal semiasse maggiore con pendenza -1,4991, contro il valore teorico di -1,5 della terza legge di Keplero, con un coefficiente di determinazione R² pari a 0,99999999.

In biologia i fattori appresi dal modello sono serviti a proporre un intervento che combina citochine e blocco anticorpale. L'idea ha superato le fasi successive di verifica: su linee cellulari, organoidi derivati da pazienti e topi. La dinamica molecolare è stata verificata su acqua liquida, quarzo alfa, paracetamolo e benzene. La conclusione degli autori è prudente ma netta: non si tratta di sostituire la conoscenza di dominio, ma di offrire uno strato comune di apprendimento della predizione su cui quella conoscenza può essere costruita.