Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

Meta apre il bug bounty di Muse fino a 300.000 dollari mentre i test sui robot mostrano le lacune nella sicurezza dell'AI

Meta ha aperto al pubblico il bug bounty dell'agente Muse il 25 settembre, offrendo fino a 300.000 dollari per le segnalazioni valide e fino a 130.000 dollari per tentativi di prompt injection che colpiscono un solo utente.

IA e modelliSpiegatoChiara RomanoPubblicato: 28 settembre 20263 min di letturaFonti 4
Meta apre il bug bounty di Muse fino a 300.000 dollari mentre i test sui robot mostrano le lacune nella sicurezza dell'AI

Meta ha aperto al pubblico il bug bounty dell'agente Muse il 25 settembre, secondo un post pubblicato su Meta AI Research. Il programma paga fino a 300.000 dollari per le segnalazioni valide, compresi fino a 130.000 dollari per tentativi riusciti di prompt injection che riguardano un singolo utente.

L'azienda ha spiegato di aver reso Muse più solido attraverso il dogfooding, il red teaming agentico e i problemi individuati dai ricercatori di sicurezza in un programma di bug bounty privato. Muse, descritto come agente personale, gira in quello che Meta chiama cella isolata: un container systemd-nspawn con un proprio filesystem root, un'interfaccia di rete virtuale, chiamate di sistema filtrate e capacità del kernel limitate. Il root dentro la cella corrisponde a un utente host senza privilegi, quindi il root della cella a runtime non è il root dell'host. Il post di Meta è il resoconto pubblico più dettagliato sull'ingegneria della sicurezza nel dossier, ma arriva insieme a ricerche che mostrano quanto sia difficile validare quel lavoro.

Il 27 settembre The Decoder ha riferito che ricercatori di Stanford e Caltech hanno costruito HomeBody, un sistema che permette a un robot Unitree G1 di muoversi in autonomia in una cucina che non conosce, riordinare e prendere oggetti dai cassetti. HomeBody elimina il consueto livello di controllo addestrato tra il modello linguistico e il robot: un modello visione-linguaggio sostituibile, in questo caso GPT Astra, chiama direttamente una libreria di abilità per afferrare, spostarsi e aprire cassetti. Il robot esplora prima la stanza, costruisce un gemello digitale in Isaac Sim di Nvidia e registra oggetti e posizioni nella memoria spaziale, così riesce a trovare gli oggetti anche quando escono dal suo campo visivo. Per compiti come "riordinare la cucina", il modello linguistico pianifica ogni passo e corregge da solo gli errori. The Decoder ha elencato alcuni limiti, tra cui la latenza di Astra, il surriscaldamento dei servi delle dita e gli alti costi di calcolo. Il codice è su GitHub. Secondo la testata, benchmark precedenti avevano mostrato un netto miglioramento del ragionamento spaziale di Astra, mentre un altro aveva segnalato problemi di sicurezza quando Astra controlla un robot.

Lo stesso giorno The Decoder ha riferito che Boris Power, Head of Applied Research di OpenAI, ha detto che l'80-90 per cento della ricerca dell'azienda va verso GPT 7, GPT 8 e oltre, perché è lì che si trova "la maggior parte del valore". Gli aggiornamenti incrementali all'interno di una generazione, come il passaggio da GPT 5.1 a 5.2, nascono da dati di addestramento specializzati ma sono scelte volutamente di breve periodo, ha detto Power. Ha descritto la sfida principale degli assistenti di oggi come una questione di onboarding più che di qualità del modello, e ha detto che la maggior parte degli utenti di ChatGPT non sa cosa può fare con l'AI.

Queste dichiarazioni mettono in luce un divario su cui torna di continuo il materiale sulla sicurezza del dossier. Meta dice che Muse può ancora sbagliare e che il suo sistema parte dal presupposto che l'agente possa essere sotto attacco. OpenAI dice che il salto arriva con una nuova generazione di modelli. Nessuna delle due affermazioni è una garanzia, e il lavoro di HomeBody mostra che i modi in cui il sistema fallisce sono fisici oltre che digitali.

Altrove, Tom's Hardware ha riferito il 27 settembre che Flock sta cercando di far rimuovere la mappa delle sue telecamere realizzata da un ricercatore di sicurezza. Secondo The Intercept, il ricercatore Joshua Michael ha trovato una falla non autenticata che gli ha dato un token di accesso senza credenziali di login e l'ha usata per interrogare ArcGIS, un livello di mappatura di terze parti usato da Flock, recuperando a novembre 2025 un database dei dispositivi Flock. La Flock Surveillance Map che ne è risultata elenca 335.701 posizioni di telecamere. Flock sostiene che la sua piattaforma cloud non ha mai subito una violazione dei dati; Michael ha detto a The Intercept che l'azienda ha fatto quell'annuncio dopo che lui aveva estratto il database dei dispositivi.

Commenti 0

Fonti

4
  1. 01We Built Safety into MuseEN
  2. 02Researchers plug GPT-6 Astra directly into a robot and let it clean up an unfamiliar kitchenEN
  3. 03OpenAI says 80 to 90 percent of its research already targets GPT 7 and beyondEN
  4. 04Flock seeks to have security researchers' map of Flock cameras taken downEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Chiara Romano

Chiara Romano

IA, modelli e tecnologie

Chiara Romano scrive di tecnologia, IA e modelli, media e internet per FLASH24, partendo da documentazione tecnica, repository e specifiche invece che da comunicati stampa. Per ogni modello o piattaforma che segue controlla versioni, licenze, parametri e benchmark, e verifica i numeri confrontandoli con i dati originali o con test indipendenti. Confronta le schede tecniche tra fornitori, parla con sviluppatori e amministratori di sistema, e tiene d'occhio le finestre di rilascio e le modifiche ai termini d'uso. Fuori dalla redazione gestisce self-hosting e reti domestiche, esperienza che le serve per capire come funzionano davvero i servizi che racconta. Non pubblica una notizia se la fonte primaria non è verificabile.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.