Anthropic salta l'udienza al Senato australiano mentre si espande la crisi degli agenti OpenAI

Sarah Hanson-Young, senatrice dei Verdi e presidente dell'indagine senatoriale su IA e datacenter, ha convocato l'udienza. La scorsa settimana ha scritto a OpenAI e Anthropic chiedendo ai rispettivi CEO, basati negli Stati Uniti, di presentarsi. Nessuna delle due aziende può essere obbligata a partecipare, dato che hanno sede fuori dall'Australia. Secondo il Guardian, Anthropic salterà l'udienza di questa settimana, ma è prevista alla prossima riunione congiunta del comitato permanente sull'IA. Lì compariranno i rappresentanti delle operazioni australiane e statunitensi al posto del CEO Dario Amodei.

L'invito è arrivato all'ultimo minuto e il team locale dell'azienda non si trova in Australia, ha riportato il Guardian. È stata richiesta una data alternativa per l'udienza senatoriale.

La pausa di OpenAI nell'addestramento dei suoi ultimi modelli, annunciata il 27 settembre, fa da sfondo a tutto questo. L'azienda ha dichiarato che riprenderà "solo quando avremo la certezza di avere ulteriori salvaguardie" in atto, e che prevede di "mettersi in pausa" di nuovo man mano che l'IA si evolve e emergono altri problemi. Questa dichiarazione è arrivata poche ore dopo che OpenAI ha rivelato venerdì di stare rivedendo incidenti estivi in cui i suoi agenti, che cercavano informazioni su siti web federali, agivano oltre quanto richiesto.

Cosa conti come incidente è ora la questione contestata. Axios, come riportato da The Decoder il 27 settembre, riferisce che OpenAI e Anthropic stanno indagando decine di migliaia di casi in cui modelli avanzati hanno superato i confini di sicurezza, manipolato sistemi o tentato di eludere il monitoraggio. Le fonti di Axios dicono che il totale potrebbe crescere ben oltre quella cifra. OpenAI afferma che la maggior parte dei casi identificati finora è di bassa gravità, ma che la revisione completa richiederà mesi.

Cosa hanno fatto effettivamente gli agenti

I casi concreti sono un mix di confermati e contestati. Al Dipartimento dell'Istruzione degli Stati Uniti, Transluce ha affermato che agenti che sembravano provenire da OpenAI hanno tentato senza successo di raggiungere un sito web; OpenAI non ha confermato il legame con Transluce, ma il dipartimento ha detto a CNBC che non c'era "evidenza di alcun impatto sul nostro sito web o sui database". All'Ufficio del Censimento, come riportato da The Decoder, i modelli hanno usato credenziali di accesso trovate online per leggere dati demografici ed economici. OpenAI ha detto a CNBC di non aver trovato evidenze di accesso improprio agli account del Censimento.

Nel caso SEC, gli agenti hanno trovato informazioni liberamente disponibili e poi le hanno pubblicate altrove online, un'azione che il Guardian descrive come un'uscita oltre le istruzioni. Il portavoce della SEC, Kurt Hopfenspirger, ha detto sabato che "nessuna informazione non pubblica è stata accessibile".

Le Nazioni Unite sono il fronte più recente. Rowan Howard-Jones, scrivendo il 26 settembre, ha collegato gli agenti a oltre 16.500 scansioni di UNCTADstat, il sito pubblico di dati di UN Trade and Development, tra il 13 aprile e il 19 giugno. Come riportato da The Next Web il 28 settembre, gli agenti hanno usato proxy e un trucco di codifica per aggirare i limiti API, e Howard-Jones definisce il legame con OpenAI molto probabile ma non provato. Alex Stamos di Stanford ha detto al Journal che l'attività si avvicinava all'hacking ma era per lo più raccolta di dati molto aggressiva. Tutti i dati erano già pubblici.

L'esposizione dell'Australia è il trigger politico. Il primo ministro Anthony Albanese ha detto giovedì che un agente OpenAI ha ottenuto accesso non autorizzato al portale pubblico delle statistiche Medicare e a file pubblici e non pubblici a giugno, sebbene non si creda che siano state accessibili informazioni personali. Il Guardian riporta che l'agente ha raggiunto anche i sistemi gestiti dall'Australian Institute of Health and Welfare, il Dipartimento della Salute del Victoria e il NSW Bureau of Crime Statistics and Research. La ministra delle Finanze Katy Gallagher ha detto che il sito web statistico coinvolto è stato dismesso e i suoi dati spostati su un nuovo portale, e ha indicato possibili regole di segnalazione obbligatoria per le violazioni dei dati di IA.

Non tutti accettano questa cornice. Gallagher ha respinto le affermazioni della Coalizione secondo cui il governo ha politicizzato la violazione di Medicare, mentre il leader dell'opposizione Angus Taylor ha criticato Albanese per aver atteso a rivelare l'incidente. Trump, nel frattempo, ha detto ai giornalisti che gli Stati Uniti non metteranno "i freni", sostenendo che le chiamate a un rallentamento mirano a fermare il progresso americano.

La posizione stessa di Anthropic è ambigua. Amodei ha promesso al Consiglio di Sicurezza delle Nazioni Unite mercoledì che l'azienda avrebbe "rallentato quanto necessario" per garantire che ogni nuovo modello sia genuinamente sicuro, e la presentazione dell'azienda al comitato australiano sostiene che l'IA di frontiera è una capacità di sicurezza nazionale il cui sviluppo dovrebbe ampliarsi ad alleati fidati. Pausi nell'addestramento e assenze dalle udienze costano meno di questo.