Meta apre il bug bounty di Muse fino a 300.000 dollari mentre i test sui robot mostrano le lacune nella sicurezza dell'AI
Meta ha aperto al pubblico il bug bounty dell'agente Muse il 25 settembre, offrendo fino a 300.000 dollari per le segnalazioni valide e fino a 130.000 dollari per tentativi di prompt injection che colpiscono un solo utente.

Meta ha aperto al pubblico il bug bounty dell'agente Muse il 25 settembre, secondo un post pubblicato su Meta AI Research. Il programma paga fino a 300.000 dollari per le segnalazioni valide, compresi fino a 130.000 dollari per tentativi riusciti di prompt injection che riguardano un singolo utente.
L'azienda ha spiegato di aver reso Muse più solido attraverso il dogfooding, il red teaming agentico e i problemi individuati dai ricercatori di sicurezza in un programma di bug bounty privato. Muse, descritto come agente personale, gira in quello che Meta chiama cella isolata: un container systemd-nspawn con un proprio filesystem root, un'interfaccia di rete virtuale, chiamate di sistema filtrate e capacità del kernel limitate. Il root dentro la cella corrisponde a un utente host senza privilegi, quindi il root della cella a runtime non è il root dell'host. Il post di Meta è il resoconto pubblico più dettagliato sull'ingegneria della sicurezza nel dossier, ma arriva insieme a ricerche che mostrano quanto sia difficile validare quel lavoro.
Il 27 settembre The Decoder ha riferito che ricercatori di Stanford e Caltech hanno costruito HomeBody, un sistema che permette a un robot Unitree G1 di muoversi in autonomia in una cucina che non conosce, riordinare e prendere oggetti dai cassetti. HomeBody elimina il consueto livello di controllo addestrato tra il modello linguistico e il robot: un modello visione-linguaggio sostituibile, in questo caso GPT Astra, chiama direttamente una libreria di abilità per afferrare, spostarsi e aprire cassetti. Il robot esplora prima la stanza, costruisce un gemello digitale in Isaac Sim di Nvidia e registra oggetti e posizioni nella memoria spaziale, così riesce a trovare gli oggetti anche quando escono dal suo campo visivo. Per compiti come "riordinare la cucina", il modello linguistico pianifica ogni passo e corregge da solo gli errori. The Decoder ha elencato alcuni limiti, tra cui la latenza di Astra, il surriscaldamento dei servi delle dita e gli alti costi di calcolo. Il codice è su GitHub. Secondo la testata, benchmark precedenti avevano mostrato un netto miglioramento del ragionamento spaziale di Astra, mentre un altro aveva segnalato problemi di sicurezza quando Astra controlla un robot.
Lo stesso giorno The Decoder ha riferito che Boris Power, Head of Applied Research di OpenAI, ha detto che l'80-90 per cento della ricerca dell'azienda va verso GPT 7, GPT 8 e oltre, perché è lì che si trova "la maggior parte del valore". Gli aggiornamenti incrementali all'interno di una generazione, come il passaggio da GPT 5.1 a 5.2, nascono da dati di addestramento specializzati ma sono scelte volutamente di breve periodo, ha detto Power. Ha descritto la sfida principale degli assistenti di oggi come una questione di onboarding più che di qualità del modello, e ha detto che la maggior parte degli utenti di ChatGPT non sa cosa può fare con l'AI.
Queste dichiarazioni mettono in luce un divario su cui torna di continuo il materiale sulla sicurezza del dossier. Meta dice che Muse può ancora sbagliare e che il suo sistema parte dal presupposto che l'agente possa essere sotto attacco. OpenAI dice che il salto arriva con una nuova generazione di modelli. Nessuna delle due affermazioni è una garanzia, e il lavoro di HomeBody mostra che i modi in cui il sistema fallisce sono fisici oltre che digitali.
Altrove, Tom's Hardware ha riferito il 27 settembre che Flock sta cercando di far rimuovere la mappa delle sue telecamere realizzata da un ricercatore di sicurezza. Secondo The Intercept, il ricercatore Joshua Michael ha trovato una falla non autenticata che gli ha dato un token di accesso senza credenziali di login e l'ha usata per interrogare ArcGIS, un livello di mappatura di terze parti usato da Flock, recuperando a novembre 2025 un database dei dispositivi Flock. La Flock Surveillance Map che ne è risultata elenca 335.701 posizioni di telecamere. Flock sostiene che la sua piattaforma cloud non ha mai subito una violazione dei dati; Michael ha detto a The Intercept che l'azienda ha fatto quell'annuncio dopo che lui aveva estratto il database dei dispositivi.
Fonti
4- 01We Built Safety into MuseEN
- 02Researchers plug GPT-6 Astra directly into a robot and let it clean up an unfamiliar kitchenEN
- 03OpenAI says 80 to 90 percent of its research already targets GPT 7 and beyondEN
- 04Flock seeks to have security researchers' map of Flock cameras taken downEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.