Apple restringe la privacy su macOS mentre gli agenti AI chiedono l'accesso al disco completo

Il 2 ottobre Apple ha avvisato che alcuni sviluppatori usano l'impostazione Accesso completo al disco in modi che mettono a rischio gli utenti. File, posta, messaggi e cronologia di navigazione vengono esposti senza che l'utente lo sappia.

Il vuoto nella privacy

Secondo 9to5Mac, Apple ha spiegato che l'Accesso completo al disco era stato pensato per le app di backup. Oggi, però, elude in gran parte i controlli sulla privacy. L'azienda ha notato che, man mano che gli agenti AI diventano più capaci, i rischi legati a questo livello di accesso cresceranno. Gli utenti dovranno presto compiere azioni molto esplicite per concedere a un'app un accesso così ampio. Si tratta di un distacco dai modelli di permessi passivi che hanno definito macOS nell'ultimo decennio: il passaggio è verso un consenso attivo e granulare per i dati sensibili.

La mossa arriva mentre crescono strumenti come Meta Muse e Dots di OpenAI. Sono agenti AI sempre attivi che richiedono un accesso sostanziale ai dati personali. 9to5Mac ha riportato che sono già emerse storie di orrore su Meta Muse, a conferma dei pericoli concreti dei permessi ampi degli agenti sui dispositivi personali.

Strumenti per le aziende

Mentre Apple si occupa del lato consumer, gli sviluppatori aziendali costruiscono infrastrutture per gestire comportamento e costi degli agenti. Kimchi, piattaforma di agenti di codifica basata su Pi, applica limiti di budget rigidi e attribuzione delle spese in tempo reale prima che una richiesta raggiunga un modello. I dati del modello restano così entro i confini organizzativi, evitando spese incontrollate.

Microsoft e Hugging Face hanno rilasciato ThinkingBox, un benchmark che valuta gli agenti AI in base ai registri che lasciano, non alle frasi che generano. In un'ablazione a set comune su 121.680 prove valide e 12 modelli LLM, 79.853 tentativi hanno fallito i controlli eseguibili. Di questi, il 67,24% si è concluso in modo pulito senza errori finali degli strumenti, ma i controlli hanno trovato valori di campo errati nel 77,61% dei casi. Gli agenti possono quindi sembrare corretti mentre lasciano uno stato errato in un database: un punto critico per i sistemi di produzione.

I ricercatori di sicurezza hanno identificato nuovi vettori per la manipolazione degli agenti. SC Media ha riportato che i ricercatori hanno aggirato le protezioni degli agenti AI usando l'obfuscation JavaScript. La tecnica permette al codice malevolo di nascondersi nei contenuti web, ingannando gli agenti per farli eseguire azioni non intenzionali. La scoperta evidenzia la necessità di livelli di validazione robusti nelle implementazioni aziendali.

Identità e supervisione

AgentMail promuove il concetto di dare agli agenti AI la propria identità, invece di farli usare le credenziali dell'utente. Secondo AgentID, consegnare a un agente la password dell'utente fa sì che ogni app lo scambii per l'utente stesso. Dare all'agente un'identità propria, con casella di posta e chiave di accesso dedicate, consente alle app di trattarlo come un soggetto distinto, con l'utente registrato come proprietario responsabile. La separazione limita l'impatto in caso di perdita delle credenziali.

Nel suo articolo "Oversight Has a Capacity", Emre Turan sostiene che i gate di approvazione con l'uomo nel loop non bastano da soli. Lo studio mostra che, se il revisore è modellato come soggetto a stanchezza, la sicurezza realizzata assume una forma a U rovesciata rispetto al tasso di escalation. Più supervisione umana può rendere un sistema meno sicuro se il revisore è sopraffatto. Il guardiano ottimale per la sicurezza opera al di sotto della piena escalation, suggerendo che il pre-filtraggio automatizzato è essenziale per proteggere l'attenzione umana.

I sistemi di design si evolvono per accogliere gli agenti. Luke Wroblewski nota che, quando gli agenti scrivono la maggior parte del codice, il sistema di design diventa parte del livello di guida dell'AI. Un file AGENTS.md può istruire gli agenti a riutilizzare classi del tema e variabili CSS, mantenendo gli aggiornamenti del sito in linea con le linee guida di brand e sviluppo. Marketing, ingegneria e prodotto possono così aggiornare i siti simultaneamente senza rompere l'integrità del design.

Infrastruttura e contesto

Spawned offre un'interfaccia di infrastruttura cloud pensata per gli agenti, che possono così provisionare, scalare e operare risorse in AWS, GCP o Azure. La piattaforma assicura che le distribuzioni siano vera infrastruttura cloud, esportabile e compatibile con Terraform fin dall'inizio. Le aziende mantengono il controllo su ciò che gli agenti costruiscono nei loro ambienti cloud.

Per gli sviluppatori, strumenti come Nautilus consentono di eseguire agenti di codifica da uno smartphone, con il lavoro unito su un PC. La separazione tra sollecitazione e revisione sfrutta la portabilità del mobile per avviare i task e la precisione del desktop per la revisione del codice. Lo strumento gira su infrastruttura cloud gratuita, senza carta di credito o VM a pagamento.

Con la diffusione di questi strumenti, il focus si sposta dalla capacità grezza del modello all'esecuzione affidabile, all'identità sicura e alla supervisione gestibile. L'industria si muove verso un modello in cui gli agenti sono attori distinti e responsabili, con confini rigorosi su accesso e azioni.