Meta apre al pubblico il bug bounty di Muse, fino a 300.000 dollari. I test sui robot mostrano i limiti della sicurezza AI

Meta ha aperto al pubblico il bug bounty dell'agente Muse il 25 settembre, secondo un post su Meta AI Research. Il programma paga fino a 300.000 dollari per le segnalazioni valide. Per i tentativi riusciti di prompt injection che colpiscono un solo utente la cifra arriva a 130.000 dollari.

L'azienda ha spiegato di aver reso Muse più robusto con il dogfooding, il red teaming agentico e i problemi trovati dai ricercatori di sicurezza in un programma di bug bounty privato. Muse, descritto come agente personale, gira in quella che Meta chiama cella isolata: un container runtime systemd-nspawn con un proprio filesystem root, un'interfaccia di rete virtuale, chiamate di sistema filtrate e capacità del kernel limitate. L'utente root dentro la cella corrisponde a un utente host senza privilegi, quindi il root della cella a runtime non è il root dell'host. Il post di Meta è il resoconto pubblico più dettagliato sull'ingegneria della sicurezza nel dossier. Arriva però insieme a ricerche che mostrano quanto sia difficile validare quel lavoro.

Il 27 settembre The Decoder ha riferito che ricercatori di Stanford e Caltech hanno costruito HomeBody, un sistema che permette a un robot Unitree G1 di muoversi in autonomia in una cucina che non conosce, riordinare e prendere oggetti dai cassetti. HomeBody elimina il tipico livello di controllo addestrato tra il modello linguistico e il robot: un modello visione-linguaggio intercambiabile, in questo caso GPT Astra, chiama direttamente una libreria di abilità per afferrare, navigare e aprire cassetti. Il robot esplora prima la stanza, costruisce un gemello digitale in Isaac Sim di Nvidia e registra oggetti e posizioni nella memoria spaziale. Così ritrova gli oggetti anche quando escono dal suo campo visivo. Per compiti come "riordinare la cucina", il modello linguistico pianifica ogni passo e si corregge da solo sugli errori. The Decoder ha elencato alcuni limiti, tra cui la latenza di Astra, il surriscaldamento dei servo delle dita e gli alti costi di calcolo. Il codice è su GitHub. Il sito ha notato che benchmark precedenti avevano mostrato un ragionamento spaziale di Astra molto migliorato. Un altro aveva invece segnalato problemi di sicurezza quando Astra controlla un robot.

Lo stesso giorno The Decoder ha riferito che Boris Power, Head of Applied Research di OpenAI, ha detto che l'80-90 per cento della ricerca dell'azienda è dedicata a GPT 7, GPT 8 e oltre, perché è lì che nasce "la maggior parte del valore". Gli aggiornamenti incrementali all'interno di una generazione, come il passaggio da GPT 5.1 a 5.2, derivano da dati di addestramento specializzati ma sono scommesse volutamente a breve termine, ha detto Power. Ha descritto la sfida principale degli assistenti attuali come un problema di onboarding più che di qualità del modello, e ha detto che la maggior parte degli utenti di ChatGPT non sa cosa può fare con l'AI.

Queste dichiarazioni inquadrano un divario su cui torna continuamente il materiale sulla sicurezza del dossier. Meta dice che Muse può ancora sbagliare e sbaglierà, e che il suo sistema parte dal presupposto che l'agente possa essere sotto attacco. OpenAI dice che il salto arriva con una nuova generazione di modelli. Nessuna delle due affermazioni è una garanzia. Il lavoro di HomeBody mostra poi che i modi in cui il sistema fallisce sono fisici oltre che digitali.

Altrove, Tom's Hardware ha riferito il 27 settembre che Flock sta cercando di far rimuovere la mappa delle sue telecamere realizzata da un ricercatore di sicurezza. Il ricercatore, Joshua Michael, ha trovato una falla non autenticata che gli ha dato un token di accesso senza credenziali di login, secondo The Intercept. Con quel token ha interrogato ArcGIS, un livello di mappatura di terze parti usato da Flock, e ha recuperato un database di dispositivi Flock nel novembre 2025. La mappa risultante, Flock Surveillance Map, elenca 335.701 posizioni di telecamere. Flock sostiene che la sua piattaforma cloud non ha mai subito una violazione dei dati. Michael ha detto a The Intercept che l'azienda ha fatto quell'annuncio dopo che lui aveva estratto il database dei dispositivi.