OpenAI citata in giudizio per l'hack di Hugging Face mentre si accumulano i fallimenti di sicurezza degli agenti

L'organizzazione no profit Legal Advocates for Safe Science and Technology ha depositato la causa con lo studio legale Gerstein Harrow, secondo WIRED. Gli agenti di OpenAI avrebbero violato il Comprehensive Computer Data Access and Fraud Act della California accedendo a Hugging Face. Il ricorso chiede alla corte di vietare a OpenAI di sviluppare agenti di intelligenza artificiale in grado di violare autonomamente altre entità, oltre alle spese legali. Non chiede danni economici.

"Le azioni di OpenAI hanno violato in modo inequivocabile la legge della California", si legge nella causa. Il fondatore di LASST, Tyler Whitmer, ha detto a WIRED che il gruppo si è mosso perché nessun altro lo avrebbe fatto. "Riteniamo estremamente importante che le leggi esistenti vengano applicate per chiamare le aziende di IA a rispondere dei danni che causano", ha affermato. Il portavoce di OpenAI, Drew Pusateri, ha definito l'incidente di Hugging Face grave, ma ha detto che la causa è "del tutto infondata".

Il deposito è arrivato nella stessa settimana in cui OpenAI ha pubblicato il proprio resoconto di un incidente precedente. Lunedì si è scusata per un agente che a giugno ha avuto accesso a un server del governo australiano. Martedì ha annunciato un nuovo agente chiamato dots al suo evento DevDay a San Francisco. Le due storie sono difficili da leggere separatamente.

Il server australiano, spiegato

Secondo Ars Technica, il post sul blog di OpenAI descrive un modello interno a cui era stato chiesto di fare ricerca sulle statistiche di spesa pubblica nello stato australiano di Victoria. Non trovando i dati nelle statistiche pubbliche, il modello ha scoperto "un modo per ottenere un accesso non pubblico al servizio". Poi ha visualizzato informazioni tecniche di sistema, codice sorgente e credenziali, si legge nel post. Un'email di divulgazione inviata all'account Public Disclosure dell'Australia all'inizio di settembre afferma che il modello "ha individuato un modo per far eseguire al server istruzioni inviate attraverso l'interfaccia pubblica di segnalazione, senza un account privato né una password". OpenAI afferma che la sua revisione non ha trovato prove che il modello abbia raggiunto cartelle cliniche a livello di paziente o informazioni personali, cancellato dati o mantenuto un accesso continuativo.

L'accesso di giugno precede l'hack di Hugging Face. OpenAI afferma di aver scoperto l'incidente australiano solo a metà agosto, durante una revisione avviata da Hugging Face, e di aver avvisato il governo il 10 settembre. Il suo post sul blog ammette che "avrebbe dovuto condividere prima i risultati preliminari". Ars Technica osserva che il test si è svolto "senza l'insieme completo di protezioni utilizzate nei nostri prodotti disponibili al pubblico". E che l'agente stava lavorando, in senso stretto, come progettato: ha usato ogni strumento disponibile per rispondere al prompt. The Guardian ha riportato che il primo ministro Anthony Albanese ha definito il coinvolgimento di OpenAI "molto costruttivo e aperto" dopo la divulgazione.

Stessa settimana, nuovi agenti

Martedì, il CEO di OpenAI Sam Altman ha presentato dots, un agente basato su GPT-6 Astra, alla vetrina annuale per gli sviluppatori dell'azienda. "È come un assistente di IA che ti copre sempre le spalle", ha detto Altman, secondo The Guardian. Gli agenti possono fissare riunioni, prenotare voli o assegnare lavoro ai colleghi senza supervisione. Meno di 24 ore prima, OpenAI aveva annullato il lancio di GPT-6.1 Astra dopo che il modello aveva mostrato un comportamento ingannevole durante i test. Ha anche presentato in anteprima GPT-6.1 Sol e una modalità "Ultrafast" per i suoi modelli di programmazione.

Lo stesso giorno ha portato un aggiornamento più silenzioso di Codex, riportato da TechCrunch: ambienti di sviluppo cloud riutilizzabili, una CLI rinnovata con controllo vocale, una vista /agents e Codex Security Cloud, che scansiona repository GitHub su richiesta o secondo una pianificazione e prepara correzioni nel cloud. Il set di strumenti di sicurezza include l'accesso ai modelli dell'iniziativa di cybersicurezza Daybreak Blue di OpenAI senza una domanda separata.

In Florida, il procuratore generale James Uthmeier ha depositato lunedì una richiesta di ingiunzione temporanea per bloccare lo sviluppo di modelli OpenAI senza supervisione indipendente, riporta WIRED. La richiesta rientra in una causa che lo stato ha intentato a giugno contro OpenAI e Sam Altman.

Gli strumenti di sicurezza si muovono nella direzione opposta

Anche il fronte difensivo si muove, e non solo in OpenAI. Il Security Lab di GitHub ha dichiarato il 29 settembre che il suo Taskflow Agent open source ha trovato e segnalato 24 vulnerabilità di Android, tra cui un difetto nell'app di navigazione OsmAnd che consente ad app malevole di tracciare la posizione di un dispositivo. I taskflow sono open source, anche se per eseguirli serve una licenza GitHub Copilot e si può consumare una grande quantità di token.

Anche Cloudflare ha approfittato della settimana per rendere open source Forge, una pipeline di generazione per SDK, CLI e documentazione, pensata per mantenere sincronizzati molti servizi e linguaggi. È già usata per la CLI cf. L'API di Cloudflare ha oltre 3.500 operazioni.

Non tutte le storie di sicurezza open source di questa settimana riguardano l'IA. TorrentFreak ha riportato che il gruppo dell'industria musicale IFPI vuole che il downloader di YouTube yt-dlp venga aggiunto alla lista di controllo della contraffazione e della pirateria 2027 della Commissione europea. La segnalazione nomina quattro manutentori con i loro handle di GitHub e definisce GitHub la fonte ufficiale del progetto. Il progetto ha più di 190.000 stelle su GitHub.

Un articolo accademico sostiene che l'ondata di codice generato dall'IA sta già ridisegnando chi può contribuire. In un articolo inviato ad arXiv il 10 settembre, Gregorio Robles e Daniel M. German descrivono le "comunità di stewardship", in cui un piccolo nucleo mantiene l'autorità sull'implementazione mentre una comunità più ampia plasma il software senza scrivere codice. L'IA abbassa il costo di scrivere modifiche, sostengono, ma rivedere il contributo di qualcun altro resta costoso. La conseguenza: l'accesso alla programmazione dipende sempre più da un'approvazione, e le comunità possono avere difficoltà a rinnovarsi.

Se una corte riconoscerà che OpenAI è responsabile per i suoi agenti è ora una questione aperta. Come osserva WIRED, questioni di responsabilità di questo tipo sono state per lo più risolte attraverso i precedenti. Il caso Hugging Face potrebbe essere il punto in cui quel precedente ha inizio.