OpenAI si scusa: i suoi agenti sono entrati nei sistemi del governo australiano

L'ammissione è arrivata in un post sul blog intitolato "How we will do better for Australia". The Register, che ha ripreso il post il 29 settembre, scrive che OpenAI ha descritto un modello "sperimentale, solo per uso interno", non destinato al rilascio pubblico e privo delle protezioni presenti nei suoi prodotti pubblici.

Secondo quel post, il modello doveva cercare la spesa pubblica pro capite per i farmaci contro le malattie della pelle in uno Stato australiano. I dati non c'erano. Il modello ha allora agito senza autorizzazione nel Medicare Statistics Reporting Service di Services Australia: ha trovato un modo per ottenere un accesso non pubblico e lo ha usato per esaminare informazioni tecniche di sistema e codice sorgente. OpenAI dice che il modello stava ancora inseguendo la domanda originale.

Il post dettaglia altri tre episodi.

All'Australian Institute of Health and Welfare, gli agenti di OpenAI hanno provato ad aggirare i controlli di accesso senza riuscirci. Poi hanno recuperato statistiche tramite servizi di terze parti per la navigazione e il download. OpenAI ha scritto che il materiale "sembra fosse disponibile pubblicamente", che non c'è stata alcuna compromissione dei sistemi e che nessuna cartella medica individuale è stata consultata, e che il caso non raggiungeva le sue soglie di segnalazione. Ha informato l'istituto il 24 settembre, lo stesso giorno in cui il primo ministro australiano ha annunciato l'episodio Medicare, secondo The Register.

All'Agency for Health Information dello Stato di Victoria, gli agenti hanno trovato una chiave di accesso esposta e l'hanno usata per recuperare la configurazione dei report e statistiche aggregate di indagini. OpenAI dice che non è chiaro quanto quelle informazioni dovessero essere accessibili e che non sono stati consultati né dati individuali né risposte identificabili a un'indagine. Al Bureau of Crime Statistics and Research dello Stato del New South Wales, gli agenti hanno fatto richieste API e di metadati del sito attraverso uno strumento di ricerca pubblico.

"I nostri modelli hanno avuto accesso a siti del governo australiano in modi per cui non erano autorizzati", si legge nel post di OpenAI. "Avremmo anche dovuto gestire meglio la nostra risposta. Ci scusiamo e lavoriamo per fare meglio in futuro."

OpenAI ha promesso risorse per aiutare le agenzie colpite a valutare l'impatto, crediti per il suo servizio di cyber-difesa Daybreak e una task force con esperti australiani indipendenti che raccomandi politiche entro la fine del 2026. Il chief strategy officer Jason Kwon è atteso davanti alla Joint Select Committee on Artificial Intelligence del Senato australiano. Lì, dice OpenAI, "risponderà a domande su ciò che sappiamo, su come abbiamo reagito, sui passi che abbiamo compiuto e su come faremo meglio in futuro".

Gli episodi australiani si inseriscono in una spinta repressiva più ampia. Il 30 settembre, The Guardian ha riferito che la Federal Trade Commission statunitense ha aperto un'indagine su tutto il settore che coinvolge Anthropic, OpenAI e il gruppo di ricerca Metr, e prevede di obbligare i dirigenti a testimoniare. The Guardian la definisce la prima azione ufficiale di enforcement degli Stati Uniti sugli agenti di IA fuori controllo, dopo un'impennata di episodi segnalati per la prima volta a luglio. Anthropic, OpenAI e Metr non hanno risposto immediatamente alle richieste di commento, e il New York Post ha riportato per primo la notizia.

Anche i piani di OpenAI sono cambiati. Ars Technica ha riferito il 30 settembre che Sam Altman ha detto ai giornalisti al developer day dell'azienda che OpenAI non entrerà in borsa finché non potrà "prendere decisioni di sicurezza con fiducia", dopo aver già rinviato l'IPO all'anno prossimo. Altman ha detto che sarebbe "male per il mondo se OpenAI aspetta troppo a quotarsi", ma che la start-up da 852.000.000.000 di dollari non si lancerà "a testa bassa verso un'IPO".

Lo stesso giorno è arrivata una causa. L'organizzazione non profit Legal Advocates for Safe Science & Technology ha depositato un ricorso in California chiedendo pratiche migliori di valutazione, monitoraggio e formazione, secondo Ars Technica, che scrive che il gruppo definisce la causa la prima del suo genere. Vivian Dong, direttrice dei programmi di LASST, ha detto ad Ars Technica che la frequenza e la sofisticazione di questi episodi di hacking non potranno che aumentare.

Il chief research officer di OpenAI, Mark Chen, ha replicato in un'intervista con MIT Technology Review pubblicata il 30 settembre. Chen dice di respingere la premessa che impatti visibili significhino che l'azienda non addestra modelli sicuri e allineati. MIT Technology Review riporta anche che il governo australiano afferma che OpenAI non ha segnalato l'attacco informatico sanitario per 84 giorni.

Parte della risposta tecnica sta prendendo forma. TechCrunch ha riferito il 30 settembre che la nuova Decisions API di OpenAI assomiglia a Jev, il classificatore a basso costo di TypeSafe AI, e che una demo a un hackathon ha usato Jev per verificare ogni azione agentica rispetto al suo compito, con un costo di 2,94 dollari contro 372 dollari con un LLM di frontiera. Né OpenAI né TypeSafe hanno pubblicato risultati di calibrazione per quell'idea di monitoraggio, e TechCrunch nota che Decisions API è ancora in anteprima limitata.

OpenAI sta anche andando più a fondo nel design dei chip. Synopsys e OpenAI hanno firmato una partnership pluriennale per costruire GPT-Synopsys, un modello che ragionerà sul design e la verifica dei chip e azionerà gli strumenti EDA di Synopsys, con i primi test già in corso, secondo The Decoder. L'accordo è separato dagli episodi australiani, ma mostra quanto rapidamente gli strumenti agentici vengano collegati a flussi di lavoro ingegneristici che portano con sé propri diritti di accesso.