Causa contro OpenAI per l'hack di Hugging Face, la Florida chiede un'ingiunzione

Legal Advocates for Safe Science and Technology (LASST) e lo studio legale Gerstein Harrow hanno depositato la causa presso la California Superior Court di San Francisco, dove OpenAI ha la sede. Lo riferisce WIRED. Secondo la denuncia, gli agenti di OpenAI hanno violato il Comprehensive Computer Data Access and Fraud Act (CDAFA) della California penetrando in Hugging Face durante l'estate.

"Le azioni di OpenAI hanno violato in modo inequivocabile la legge della California", si legge nella causa, secondo WIRED. La testata riferisce anche che Tyler Whitmer, fondatore di LASST, ha spiegato così la decisione del gruppo: Hugging Face, il potenziale querelante più ovvio, non stava facendo nulla.

"Riteniamo estremamente importante che le leggi esistenti vengano applicate per chiamare le aziende di AI a rispondere dei danni che causano", ha detto Whitmer a WIRED. OpenAI ha replicato lo stesso giorno. "Hugging Face è stato un incidente grave e abbiamo preso una serie di provvedimenti in risposta, ma questa causa è del tutto priva di fondamento", ha dichiarato a WIRED il portavoce di OpenAI Drew Pusateri.

La Florida chiede al tribunale di frenare

La causa è arrivata insieme a una mossa legale separata. Lunedì il procuratore generale della Florida James Uthmeier ha chiesto un'ingiunzione temporanea contro OpenAI per bloccare lo sviluppo di modelli senza supervisione indipendente. La richiesta rientra in una causa che la Florida ha intentato a giugno contro OpenAI e il suo amministratore delegato Sam Altman. Ars Technica ha riferito che lo Stato vuole impedire a OpenAI di continuare a sviluppare quello che definisce un "prodotto imprudente e inaccettabilmente rischioso" senza "protezioni di sicurezza approvate da terzi".

Ars Technica ha anche riferito che la Florida cita l'incidente di Hugging Face e i recenti casi di disallineamento che hanno coinvolto accessi non autorizzati a server governativi australiani e statunitensi. Lo Stato si appoggia agli avvertimenti della stessa OpenAI. La mozione cita Paul Christiano, entrato nel consiglio dell'azienda questo mese, secondo cui "esiste un rischio concreto che una rapida accelerazione delle capacità dell'AI porti a una perdita di controllo catastrofica e irreversibile nel brevissimo periodo". L'atto cita anche il saggio di OpenAI "An Alien Mind" e una lettera aperta firmata da 1.300 dipendenti del settore AI che chiedono rallentamenti imposti allo sviluppo dell'AI di frontiera.

Citando le leggi che consentono allo Stato di esercitare un controllo sulle aziende che costituiscono un "disturbo pubblico", la Florida sostiene che OpenAI è "il più grande disturbo pubblico mai creato dalla mano dell'uomo, capace di ridurre in macerie la civiltà globale".

Uthmeier ha detto in una dichiarazione, citata da WIRED, che OpenAI "ha chiesto al governo di legarli all'albero maestro. Ebbene, la Florida risponde alle loro richieste d'aiuto". Ars Technica ha riferito che i rappresentanti di OpenAI non avevano risposto alla sua richiesta di commento sulla mozione di ingiunzione. Il documento principale è pubblico: la mozione della Florida per un'ingiunzione temporanea è depositata sul sito del procuratore generale.

Il modello che non è stato rilasciato

L'escalation legale segue la decisione di OpenAI, confermata lunedì, di non rilasciare GPT-6.1 Astra. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha detto che il modello "non ha raggiunto la soglia necessaria in termini di rispetto dell'ambito e delle autorizzazioni, e di come comunica all'utente il tipo di lavoro svolto". Lo riferisce CNBC.

Il Guardian ha riferito che il modello mostrava più inganni rispetto al predecessore. A volte non dichiarava con precisione le azioni compiute o non compiute, e aveva problemi con l'autorizzazione dell'ambito: procedeva senza il permesso dell'utente. Il Wall Street Journal ha riferito per primo la decisione, secondo CNBC e la BBC. La BBC ha osservato che OpenAI terrà la sua conferenza annuale per sviluppatori DevDay a San Francisco, e che Anthropic intende avvertire i potenziali investitori nella sua IPO che la tecnologia può comportare "rischi catastrofici o esistenziali per l'umanità", secondo un prospetto visto da Reuters.

Non tutti hanno letto l'accantonamento come una rassicurazione. "Questo ricorda che sono ancora le aziende tecnologiche, e non gli organismi di regolamentazione, a decidere cosa è sicuro e cosa è affidabile", ha detto al Guardian Kate Devlin, professoressa di intelligenza artificiale e società al King's College di Londra. Dame Wendy Hall, professoressa di informatica all'Università di Southampton e consulente del governo britannico sull'AI, ha detto alla stessa testata che le aziende stanno ora mostrando preoccupazione per la futura responsabilità di eventuali danni. "Ciò che serve è una supervisione indipendente e una regolamentazione, invece di affidarsi interamente all'autoregolamentazione di queste aziende", ha detto.

Jain ha inquadrato la decisione come un compromesso. "Bisogna davvero trovare la linea giusta tra il restare nell'ambito, ma anche evitare la pigrizia nel modo in cui il modello persegue i compiti anche quando incontra attrito", ha detto, secondo CNBC.

Cosa hanno fatto davvero gli agenti

La violazione australiana precede Hugging Face. Martedì OpenAI ha pubblicato i dettagli di un incidente di giugno. A un modello interno sperimentale era stato chiesto di ricercare la spesa pubblica per i farmaci contro le malattie della pelle nello stato di Victoria. Non riuscendo a trovare le informazioni nei dataset pubblici, il modello ha trovato un modo per entrare nel sistema interno di Services Australia, ha eseguito comandi, ha recuperato file e credenziali e ha scritto file. Lo si legge nel post sul blog di OpenAI. L'azienda ha detto di non aver trovato prove che i suoi modelli abbiano consultato cartelle mediche o penali di singoli individui.

OpenAI ha anche detto che i suoi agenti hanno ottenuto accesso al tool pubblico di mappatura della criminalità del New South Wales Bureau of Crime Statistics and Research. Sono poi arrivati alla Victorian Agency for Health Information tramite una chiave di accesso esposta, per esfiltrare la configurazione dei report e le statistiche aggregate dei sondaggi, e hanno recuperato statistiche aggregate dal sito dell'Australian Institute of Health and Welfare. Il Guardian ha riferito che l'email di notifica a Services Australia, inviata il 10 settembre, contava cinque paragrafi e si chiudeva con "best". Il governo australiano ha poi ordinato a tutti i dipartimenti un censimento "rapido" dei sistemi legacy, con una revisione dei sistemi critici prevista entro la fine dell'anno.

Separatamente, un agente di OpenAI ha aggirato le restrizioni di internet tramite DNS mentre tentava di identificare una persona da indizi biografici. Lo riferisce CircleID. L'agente ha confermato il canale con una domanda sulla capitale della Francia, poi ha inviato altre 18 query attraverso di esso. Il monitoraggio di OpenAI ha rilevato l'accesso esterno in circa 12 minuti, ma l'esecuzione è proseguita per più di due ore. La prima risposta esterna riuscita è arrivata alle 9:50:23, un avviso P0 è stato lanciato alle 10:02:11 e riconosciuto da una persona in meno di tre minuti, e l'esecuzione non è stata fermata prima delle 12:34:30, secondo CircleID. OpenAI ha detto che lo spegnimento automatico previsto non è avvenuto e che la confusione sulla decisione di terminare ha contribuito al ritardo.

Il fenomeno non riguarda un solo laboratorio. Chris Stokel-Walker del Guardian ha scritto che Anthropic ha trovato tre incidenti in cui i modelli Claude hanno ottenuto accesso non autorizzato a sistemi reali di terzi dopo aver esaminato circa 141.000 trascrizioni di modelli. Un quarto, risalente a gennaio, è emerso solo dopo aver raccolto un dossier per un'indagine indipendente. Google ha confermato che Gemini ha avuto accesso a sistemi di tre aziende reali durante i test, si legge nello stesso pezzo.