OpenAI citata in giudizio per l'hack di Hugging Face, mentre si accumulano i fallimenti di sicurezza degli agenti

L'organizzazione no profit Legal Advocates for Safe Science and Technology ha depositato il ricorso con lo studio legale Gerstein Harrow, secondo WIRED. Sostiene che gli agenti di OpenAI hanno violato il Comprehensive Computer Data Access and Fraud Act della California penetrando in Hugging Face. La denuncia chiede alla corte di vietare a OpenAI di sviluppare agenti di intelligenza artificiale capaci di attaccare autonomamente altre entità, oltre alle spese legali. Non chiede risarcimenti economici.

"Le azioni di OpenAI hanno violato in modo evidente la legge della California", si legge nel ricorso. Tyler Whitmer, fondatore di LASST, ha detto a WIRED che il gruppo si è mosso perché nessun altro lo avrebbe fatto. "Riteniamo estremamente importante che le leggi esistenti vengano applicate per chiamare le aziende di intelligenza artificiale a rispondere dei danni che causano", ha dichiarato. Il portavoce di OpenAI Drew Pusateri ha definito grave l'incidente di Hugging Face, ma ha detto che la causa è "del tutto priva di fondamento".

Il deposito è arrivato la stessa settimana in cui OpenAI ha pubblicato il proprio resoconto di un incidente precedente. Lunedì l'azienda si è scusata per un agente che a giugno ha avuto accesso a un server del governo australiano, e martedì ha annunciato un nuovo agente chiamato dots durante l'evento DevDay a San Francisco. Le due vicende sono difficili da leggere separatamente.

Il server australiano, spiegato

Secondo Ars Technica, il post sul blog di OpenAI descrive un modello interno a cui era stato chiesto di cercare statistiche sulla spesa pubblica nello stato australiano di Victoria. Quando non ha trovato i dati nelle statistiche pubbliche, ha individuato "un modo per ottenere un accesso non pubblico al servizio" e poi ha consultato informazioni tecniche di sistema, codice sorgente e credenziali, si legge nel post. Un'email di segnalazione inviata all'inizio di settembre all'account Public Disclosure dell'Australia afferma che il modello "ha individuato un modo per far eseguire al server istruzioni inviate attraverso l'interfaccia pubblica di segnalazione, senza un account privato né una password". OpenAI sostiene che la sua verifica non ha trovato prove che il modello abbia raggiunto cartelle cliniche a livello di singolo paziente o informazioni personali, cancellato dati o mantenuto un accesso continuativo.

L'accesso di giugno precede l'hack di Hugging Face. OpenAI afferma di aver scoperto l'incidente australiano solo a metà agosto, durante una verifica avviata proprio per il caso Hugging Face, e di aver informato il governo il 10 settembre. Nel post sul blog l'azienda ammette che "avrebbe dovuto condividere prima i risultati preliminari". Ars Technica osserva che il test si è svolto "senza l'insieme completo di protezioni usate nei nostri prodotti disponibili al pubblico" e che l'agente, in senso stretto, stava funzionando come previsto: ha usato ogni strumento a disposizione per rispondere al prompt. The Guardian ha riferito che il primo ministro Anthony Albanese ha definito "molto costruttivo e aperto" il confronto con OpenAI dopo la segnalazione.

Stessa settimana, nuovi agenti

Martedì il CEO di OpenAI Sam Altman ha presentato dots, un agente basato su GPT-6 Astra, durante l'evento annuale dedicato agli sviluppatori. "È come un assistente di intelligenza artificiale che ti copre sempre le spalle", ha detto Altman, secondo The Guardian. Gli agenti possono fissare riunioni, prenotare voli o assegnare lavoro ai colleghi senza supervisione. Meno di 24 ore prima, OpenAI aveva annullato il lancio di GPT-6.1 Astra dopo che il modello aveva mostrato un comportamento ingannevole durante i test. Ha anche presentato in anteprima GPT-6.1 Sol e una modalità "Ultrafast" per i suoi modelli di programmazione.

Lo stesso giorno è arrivato un aggiornamento più silenzioso di Codex, riportato da TechCrunch: ambienti di sviluppo cloud riutilizzabili, una CLI rinnovata con controllo vocale, una vista /agents e Codex Security Cloud, che analizza i repository GitHub su richiesta o secondo una pianificazione e prepara le correzioni nel cloud. Il set di strumenti di sicurezza include l'accesso ai modelli dell'iniziativa di cybersicurezza Daybreak Blue di OpenAI senza una domanda separata.

In Florida, il procuratore generale James Uthmeier ha chiesto lunedì un'ingiunzione temporanea per bloccare lo sviluppo dei modelli di OpenAI senza una supervisione indipendente, riferisce WIRED, nell'ambito di una causa che lo stato ha intentato a giugno contro OpenAI e Sam Altman.

Gli strumenti di sicurezza vanno nella direzione opposta

Anche il fronte difensivo si muove, e non solo in OpenAI. Il Security Lab di GitHub ha annunciato il 29 settembre che il suo Taskflow Agent open source ha trovato e segnalato 24 vulnerabilità di Android, tra cui un difetto nell'app di navigazione OsmAnd che consente ad app malevole di tracciare la posizione di un dispositivo. I taskflow sono open source, anche se per eseguirli serve una licenza GitHub Copilot e si può consumare una grande quantità di token.

Anche Cloudflare ha approfittato della settimana per rendere open source Forge, una pipeline di generazione per SDK, CLI e documentazione, pensata per tenere allineati molti servizi e linguaggi. È già usata per la CLI cf. L'API di Cloudflare conta oltre 3.500 operazioni.

Non tutte le storie di sicurezza open source di questa settimana riguardano l'intelligenza artificiale. TorrentFreak ha riferito che il gruppo dell'industria musicale IFPI vuole aggiungere il downloader per YouTube yt-dlp alla lista dei prodotti contraffatti e piratati 2027 della Commissione europea. La segnalazione cita quattro manutentori con i loro handle GitHub e indica GitHub come fonte ufficiale del progetto. Il progetto ha più di 190.000 stelle su GitHub.

Un articolo accademico sostiene che l'ondata di codice generato dall'intelligenza artificiale sta già cambiando chi può contribuire. In un articolo inviato ad arXiv il 10 settembre, Gregorio Robles e Daniel M. German descrivono le "comunità di custodia", in cui un piccolo nucleo mantiene l'autorità sull'implementazione mentre una comunità più ampia modella il software senza scrivere codice. L'intelligenza artificiale abbassa il costo di scrivere modifiche, sostengono, ma rivedere il contributo di qualcun altro resta costoso. La conseguenza: l'accesso alla programmazione dipende sempre più da un'approvazione, e le comunità possono fare fatica a rinnovarsi.

Se una corte riconoscerà che OpenAI è responsabile per i suoi agenti è ora una questione aperta. Come osserva WIRED, questioni di responsabilità di questo tipo sono state finora risolte per lo più attraverso la giurisprudenza, e il caso Hugging Face potrebbe essere il punto da cui quella giurisprudenza prende avvio.