Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

La memoria degli agenti AI ha un budget: un nuovo paper sulle tracce a coda lunga

Un nuovo paper sostiene che gli agenti AI a orizzonte lungo vanno giudicati dalla forma dell'uso che fanno della memoria, non solo dal successo sul compito e dal costo in token. Propone un controller che assegna la finestra di contesto per rango, come si legge in un post pubblicato il 4 ottobre.

IA e modelliSpiegatoGiulia FerrariPubblicato: 4 ottobre 20264 min di letturaFonti 10
La memoria degli agenti AI ha un budget: un nuovo paper sulle tracce a coda lunga

Il post, uscito il 4 ottobre su Redreamality, ripercorre arXiv:2610.00010, "Heavy-Tailed Memory Traces in Long-Horizon Language Agents," di Xinyuan Song di Emory e Zekun Cai dell'Università di Tokyo e LocationMind. La tesi degli autori è circoscritta. Quando la finestra di contesto è finita, la memoria smette di essere un registro neutro e diventa un meccanismo di allocazione delle risorse. Una valutazione che guarda solo il voto finale e il conto salato non vede quali elementi continuano a prendersi l'attenzione.

Questa impostazione conta perché gli strumenti per agenti usciti negli stessi giorni vendono per lo più la memoria come una lista di funzioni. Aura, agente Go self-hosted pubblicato su GitHub il 4 ottobre, pubblicizza memoria nativa a grafo con fatti, fonti e finestre di validità archiviati in ArcadeDB, più percorsi temporali che restituiscono le evidenze a supporto. Cosh, agente Rust uscito lo stesso giorno, punta tutto sulla promessa che non tronca mai il contesto. Nessuno dei due progetti dichiara di risolvere il problema di allocazione descritto nel paper. Nessuno dei due viene presentato come se lo facesse.

Cosa misura il paper

Secondo il testo di Redreamality, gli autori sostengono che con contesto finito e recupero ripetuto la memoria si concentra su un nucleo ristretto. Gli stati rari finiscono in una coda lunga dove gli errori di previsione si accumulano. Usano etichette prudenti: definiscono le tracce a coda lunga, compatibili con una log-normale o con una legge di potenza troncata, invece di affermare che il sistema si trova in un punto critico. Il controller proposto, CTWM (Core-Tail World Model), assegna il budget di prompt per rango. Governa la concentrazione con un singolo esponente che gli autori chiamano tau, e conserva una coda riassunta invece di scartarla. Il codice è rilasciato su github.com/Hik289/world-model-self-organized-criticality, secondo il post.

L'ipotesi di misurazione è più ristretta: se il world model di un agente si concentra naturalmente attorno a un nucleo ristretto e a una coda lunga, possiamo verificare quella struttura e trasformarla in un controller di memoria migliore?

Il post dice che il lavoro è valutato su Synthetic Graph World, ALFWorld e LongMemEval. Elenca esplicitamente ciò che il paper non sostiene. La cautela merita attenzione, perché la stessa settimana ha prodotto una serie di titoli sulla memoria che suonavano come scoperte. Un titolo del 24 settembre diceva che Google sta costruendo una memoria AI progettata per restare chiusa anche a Google. Un titolo del 19 settembre diceva che DeepSeek ha tagliato di quattro volte il costo della memoria degli agenti AI. Sono titoli, non risultati che questo articolo possa verificare.

L'infrastruttura sotto

L'allocazione della memoria è anche un problema di kernel, e su questo c'è materiale fresco. Un post su frn.sh pubblicato il 4 ottobre ricostruisce come le page table smettano di essere un errore di arrotondamento quando molti spazi di indirizzamento mappano le stesse pagine. La patch del 2020 di Shakeel Butt ha aggiunto una metrica delle page table a memory.stat. Roman Gushchin ha obiettato che le page table sono circa 1/512 della memoria mappata, sotto l'1% della maggior parte dei cgroup. L'aritmetica del post: se 512 processi mappano la stessa pagina, le page table costano quanto le pagine di dati, perché ogni processo ha bisogno delle proprie PTE da 8 byte.

La guida di Erik Rigtorp alla latenza della memoria virtuale, ripubblicata il 4 ottobre, arriva allo stesso punto dal lato della latenza. I major page fault costano più o meno come una chiamata di sistema di lettura o scrittura. I TLB miss costano più dei TLB hit. I rimedi sono il pre-faulting, il blocco della memoria con mlock o MAP_LOCKED e MAP_POPULATE, la disattivazione dello swap, l'uso di huge page e l'evitare modifiche alle page table dopo l'avvio. Niente di tutto questo riguarda i modelli linguistici, ma è lo stesso scambio: una finestra finita e gestita contro una senza limiti.

Il blog Old New Thing di Microsoft è intervenuto il 2 ottobre con una domanda più stretta: perché il supporto all'hot-patching di Windows esiste solo per certe architetture. È un promemoria del fatto che il livello di piattaforma vincola ciò che qualsiasi runtime per agenti può promettere su memoria e interruzioni.

Contesto dal resto dello stack

How-To Geek ha pubblicato il 3 ottobre un pezzo che ripercorre sei sistemi operativi che hanno plasmato Windows e Linux, da Multics al MIT nel 1969 fino a Unix. Osserva che i permessi NTFS discendono dalle liste di controllo degli accessi di Multics. Aggiunge che Windows esegue il kernel nell'anello più interno dei quattro anelli di protezione hardware di x86. Materiale storico, ma spiega perché la protezione della memoria è un compito del kernel e non una cortesia dell'applicazione.

Altri due progetti del 4 ottobre sono più vicini alla questione degli agenti. Un progetto su GitHub chiamato SkyCraft fa girare Minecraft headless dentro Skyrim, con un plugin SKSE per Skyrim e una mod Fabric per Minecraft che comunicano tramite memoria condivisa. L'autore lo definisce sperimentale e in fase iniziale e avverte gli utenti di fare il backup dei salvataggi. Recoil Optimizer, una suite per la messa a punto della latenza su Windows pubblicata il 4 ottobre, pubblicizza 117 tweak reversibili, un timer di kernel da 0.500 ms e dichiarazioni di latenza DPC di 18 microsecondi, senza verifiche indipendenti.

Il filo conduttore non è glamour. Che la finestra appartenga a un agente, a un kernel o a un gioco, qualcuno deve decidere cosa occupa uno slot. Il contributo del paper CTWM è rendere quella decisione verificabile invece che accidentale.

Commenti 0

Fonti

10
  1. 01CTWM: Heavy-Tailed Memory Traces in Long-Horizon AgentsEN
  2. 02Aura – a self-hosted AI agent with temporal graph memory, written in GoEN
  3. 03Cosh – a Rust agent that never truncates contextEN
  4. 04Page table memory consumptionEN
  5. 05Latency Implications of Virtual MemoryEN
  6. 06Why is there no Windows hot-patching support for other architectures?EN
  7. 07Six operating systems that inspired Windows and LinuxEN
  8. 08Running Minecraft headless inside Skyrim, synced over shared memoryEN
  9. 09Recoil Optimizer: Open-source zero-resident Windows latency tuning suiteEN
  10. 10A memory of Pangea (an early civic network, 1996-1999)EN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Giulia Ferrari

Giulia Ferrari

IA, modelli e tecnologie

Giulia Ferrari scrive di tecnologia, IA e modelli e media e internet per FLASH24, partendo da dataset pubblici, preprint e registri di versioni dei modelli. Controlla ogni numero confrontando benchmark dichiarati e risultati riproducibili, e scarta le stime senza fonte. Segue le audizioni in calendario, parla con ricercatori e ingegneri, e mette a confronto release e changelog prima di pubblicare. Fuori dalla redazione smonta stampanti 3D, recupera vecchi computer e studia come i modelli imparano dai rifiuti del web. Non pubblica un dato se non può ricostruirne il percorso.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.