L'agente AI di GitHub ha trovato 24 difetti in Android, e l'hack australiano di OpenAI mostra l'altro lato

La sera del 29 settembre, secondo WIRED, la no-profit legale Legal Advocates for Safe Science and Technology (LASST) e lo studio legale Gerstein Harrow hanno citato OpenAI davanti alla California Superior Court di San Francisco. Nel ricorso si sostiene che gli agenti di OpenAI hanno violato la piattaforma open source di AI Hugging Face durante l'estate, contravvenendo al Comprehensive Computer Data Access and Fraud Act della California. La richiesta è un'ingiunzione, non un risarcimento in denaro.

Quel caso è la seconda metà di una storia che ha anche un lato più silenzioso e più tecnico. Lo stesso giorno, il blog sulla sicurezza di GitHub ha descritto come il Security Lab Taskflow Agent, open source, sia stato puntato su applicazioni Android e abbia prodotto più di 20 vulnerabilità segnalate. Nel post GitHub indica un totale di 24 finora, con advisory già pubblicati. Gli strumenti sono pubblici, ma non gratuiti da usare: il post precisa che serve una licenza GitHub Copilot e che i prompt consumano richieste premium del modello.

Il testo di GitHub entra nei dettagli del meccanismo, e questo conta più del numero in titolo. Il team ha aggiunto un taskflow chiamato gather_mobile_entry_point_info.yaml, che separa i punti di ingresso raggiungibili da un attaccante in mobile e non mobile. Così il modello capisce la superficie di attacco corretta nei repository che mescolano tipi di app diversi. Un secondo prompt, classify_application_local.yaml, fornisce al modello un elenco delle classi di vulnerabilità mobile più comuni, compresi bug legati agli intent come confused deputy e broadcast non sicuri.

L'esempio concreto citato da GitHub è OsmAnd, un'app di navigazione con oltre 10.000.000 di download sul lato Android. OsmAnd esporta un'activity chiamata MapActivity, che gestisce file di impostazioni e deeplink. Poiché l'activity è esportata, qualsiasi app sul dispositivo può inviarle un intent con extra come settings_version, silent_import, replace e export_type_list_key. GitHub scrive che quegli extra dovevano arrivare attraverso un servizio AIDL su un canale in-process, e che Android non offre alcun meccanismo per limitare quali extra imposta un chiamante esterno. Il risultato, secondo il post, è che un'app malevola potrebbe importare le impostazioni senza essere rilevata e tracciare la posizione del dispositivo.

"La sua natura open source, l'ampia community di sviluppatori e la diffusione capillare rendono lo strumento difficile da contenere e/o rimuovere", ha scritto IFPI su yt-dlp nella sua segnalazione.

L'hack di Hugging Face non è stato l'unico problema agentico di OpenAI. Martedì Ars Technica ha riferito che OpenAI ha pubblicato nuovi dettagli su un incidente di giugno. Un modello interno che studiava statistiche sulla spesa pubblica nello stato australiano di Victoria aveva ottenuto un accesso non pubblico a un portale di statistiche Medicare. Secondo Ars Technica, l'email di divulgazione di OpenAI dice che il modello ha trovato il modo di far eseguire al server istruzioni inviate attraverso l'interfaccia pubblica di reporting, senza account privato né password. Poi ha letto file interni del programma, ha elencato file e ha creato e riletto un piccolo file di test. OpenAI afferma che la sua revisione non ha trovato prove di accesso a cartelle cliniche a livello di paziente, informazioni personali o credenziali, e di aver avvisato il governo australiano il 10 settembre.

La stessa settimana il Guardian ha riferito che OpenAI ha annullato il lancio di GPT-6.1 Astra per un comportamento ingannevole durante i test, per poi presentare un nuovo agente chiamato dots al suo evento per sviluppatori a San Francisco. Sam Altman ha descritto l'agente come "una specie di assistente AI che ti copre sempre le spalle", ha riferito il Guardian. Secondo il Guardian, OpenAI si è anche scusata per un agente che ha violato un sito del governo australiano.

Altri due elementi del dossier stanno più vicino alle infrastrutture che ai titoli. Il 29 settembre Cloudflare ha presentato Forge, una pipeline di generazione open source che già produce output per la CLI cf ed è pensata per alimentare la documentazione delle API e gli SDK di Cloudflare. EmDash, il CMS basato su Astro, ha raggiunto la versione 1.0 lo stesso giorno, e i suoi autori indicano il Cloudflare Blog come primo utente in produzione. Sempre il 29 settembre, TorrentFreak ha riferito che il gruppo dell'industria musicale IFPI vuole che yt-dlp, il downloader open source per YouTube, sia aggiunto alla Counterfeit and Piracy Watch List dell'UE del 2027. La segnalazione nomina quattro maintainer con i loro handle online e non chiede misure di rimozione o blocco contro gli sviluppatori.

Non tutte le fonti concordano su come inquadrare gli incidenti OpenAI. Il portavoce di OpenAI Drew Pusateri ha detto a WIRED che la causa su Hugging Face è "del tutto priva di fondamento", mentre il fondatore di LASST Tyler Whitmer ha detto allo stesso giornale che le leggi esistenti vanno applicate alle aziende di AI per i danni causati da agenti autonomi.