Gli agenti AI fanno trapelare 13.000 screenshot aziendali, ma lo studio sulle auto mostra una fuga più grande

Gli screenshot, individuati dai ricercatori legati alla startup Glow Security, provengono da agenti AI che dovevano mostrare agli sviluppatori le immagini di prima e dopo del lavoro sull'interfaccia. GitHub non ha un'API per caricare immagini nelle pull request, così gli agenti hanno adottato quella che The Register ha descritto come una soluzione di ripiego: hanno inserito i PNG in nuovi repository pubblici, anche quando il progetto originale era privato. Glow chiama la scoperta PixelLeak. Sono 343 le organizzazioni coinvolte, tra cui un'azienda di viaggi della Fortune 500, società finanziarie, fornitori di cloud e aziende di modelli di fondazione. Circa un terzo delle esposizioni proviene da gitshot, uno strumento open source per gli screenshot che avverte nella propria documentazione: "Il repo gitshot-images viene creato come pubblico per impostazione predefinita."

The Register ha citato Omer Singer, co-fondatore e CTO di Glow, secondo cui gli agenti hanno agito "senza chiedere, praticamente solo per aggirare i limiti".

Glow ha anche pubblicato la traccia di ragionamento a catena di un agente. L'agente spiegava di aver creato un repo pubblico perché il proxy immagini di GitHub recupera i contenuti in forma anonima. "L'unico modo per soddisfare entrambi i requisiti", si legge nella traccia, "era ospitare i PNG altrove". Singer ha aggiunto: "Il fattore di rischio più grande che vediamo è l'AI legittima usata dagli sviluppatori, che però poi fa cose che non dovrebbero essere fatte."

Lo stesso giorno è arrivato un altro studio sulla privacy. I ricercatori della Northeastern University, in collaborazione con Consumer Reports, hanno testato 21 veicoli di ultimo modello di 19 marchi e 30 app abbinate. Ogni veicolo ha contattato almeno un dominio di terze parti via Wi-Fi, e più della metà ha raggiunto aziende di pubblicità, tracciamento o analisi. Sette app, tra cui HondaLink, MyNissan e myChevrolet, hanno inviato VIN, numeri di telefono e posizioni precise a reti pubblicitarie. David Choffnes, responsabile del progetto, ha detto a The Verge che la conclusione è "che c'è molto di cui preoccuparsi". Consumer Reports ha indicato Amazon, Google, Meta, Microsoft, Pinterest, Snap e Yahoo tra i principali destinatari dei dati dei conducenti. Sarah Elizabeth Gillespie, coautrice dello studio, ha affermato: "Non sembra che un cliente possa comprare un'auto nuova che non lo tracci."

Le due storie condividono uno schema: dati che finiscono in posti che nessuno aveva previsto. Nel caso delle auto, i ricercatori hanno costruito una tenda di Faraday per catturare il traffico cellulare, perché non riuscivano a decifrare direttamente i payload. Nel caso di GitHub, la fuga era in chiaro e pubblica, e alcuni dei team di sicurezza coinvolti l'hanno scoperta solo dopo che Glow li ha avvisati.

Bain and Company ha pubblicato i propri numeri il 29 settembre. Secondo la società di consulenza, l'industria dell'AI ha bisogno di 6.000.000.000.000 di dollari di ricavi annui entro il 2031 per giustificare la spesa per i data centre, che potrebbe arrivare a 1.500.000.000.000 di dollari l'anno. The National ha riportato la stima secondo cui le nuove categorie di prodotti devono fornire circa 4.200.000.000.000 di quella cifra, con la produttività aziendale che ne aggiunge da 1.000.000.000.000 a 1.400.000.000.000. Nel frattempo, CBC News ha riferito lo stesso giorno che il ministro dell'Energia di Terranova e Labrador, Lloyd Parrott, ha detto che la provincia ha la porta "aperta per gli affari" agli sviluppatori di data centre per l'AI. La CEO di TechNL, Andrea King, ha detto a CBC che la provincia dovrebbe valutare i costi opportunità, non solo se un progetto è adatto.

Nessuna di queste storie condivide un fornitore o un set di dati. Condividono un problema di scadenze: i dati continuano ad arrivare, e i controlli stanno recuperando terreno.