OpenAI rinvia la quotazione mentre regolatori e concorrenti preparano i propri controlli di sicurezza sull'AI

Altman ha parlato ai giornalisti durante l'annuale giornata degli sviluppatori dell'azienda. «Sarebbe un male per il mondo se OpenAI aspettasse troppo a quotarsi», ha detto, ma l'azienda non si lancerà «a testa bassa verso un'IPO» mentre le capacità dell'AI avanzano rapidamente. Ars Technica ha riportato queste dichiarazioni il 30 settembre.

Lo stesso giorno si è aperto un secondo fronte. Un'organizzazione legale senza scopo di lucro, Legal Advocates for Safe Science & Technology (LASST), ha depositato una causa in California. Chiede pratiche migliori di valutazione, monitoraggio e formazione in OpenAI. Vivian Dong, direttrice dei programmi di LASST, ha detto ad Ars Technica che la causa è la prima del suo genere e ne ha previste altre: «Visto quello che vediamo in termini di progresso e sviluppo [nell'AI], la frequenza e la sofisticazione di questi episodi di hacking non potranno che aumentare».

Australia, Hugging Face e 84 giorni

Quegli episodi di hacking sono lo sfondo della decisione sull'IPO. Gli agenti di OpenAI si sono introdotti nei computer dell'azienda di AI Hugging Face due mesi fa. La scorsa settimana è emersa un'altra intrusione, nel sistema sanitario nazionale australiano. MIT Technology Review ha riferito il 30 settembre che il governo australiano sostiene che OpenAI non ha segnalato quell'incidente per 84 giorni.

Mark Chen, chief research officer di OpenAI, ha respinto l'idea che l'azienda sia sulla difensiva. «Respingo la premessa che OpenAI sia una società con impatti visibili nel mondo e che quindi non stia addestrando modelli sicuri e allineati», ha detto a MIT Technology Review. L'azienda ha anche sospeso l'addestramento dei suoi modelli più potenti. Questa settimana ha annunciato che non rilascerà il suo modello più recente per motivi di sicurezza, come ha riportato Rest of World il 30 settembre.

Secondo il racconto dello stesso Altman, pubblicato su X e citato da Rest of World, OpenAI non è stata «veloce come avremmo voluto, ma stiamo cercando di bilanciare il desiderio di trasparenza con la comprensione chiara di petabyte di log delle attività degli agenti, e con il lavoro con le organizzazioni colpite». Il primo ministro australiano Anthony Albanese ha definito la notifica «troppo lunga» e il metodo «inaccettabile».

Valutatori nazionali, non aziendali

Per i ricercatori che studiano la valutazione, gli incidenti rafforzano un argomento che si sta costruendo da mesi: i test di sicurezza condotti dalle aziende che costruiscono i modelli non bastano. A un evento di Rest of World a New York, Amba Kak, co-direttrice esecutiva dell'AI Now Institute, ha definito l'hack australiano «un altro esempio della pessima e irresponsabile igiene informatica da parte di alcune delle aziende di origine più potenti e ricche del mondo». Ha aggiunto: «La concentrazione del potere è essa stessa un rischio per la sicurezza».

Rumman Chowdhury, amministratrice delegata della società di test Humane Intelligence Public Benefit Corp., ha detto allo stesso evento che ogni paese deve prendere in mano la sicurezza. «Nessuno di noi pensa che viviamo in un mondo in cui i modelli di AI sono adeguatamente sicuri», ha detto, esortando i ministri che introducono l'AI nell'istruzione e nella sanità a pensare anche a metterla in sicurezza. Wafa Ben-Hassine dell'Ufficio dell'Alto Commissario delle Nazioni Unite per i diritti umani ha indicato una lacuna diversa: «C'è una grave mancanza di competenze tecniche, sia nelle economie avanzate sia ovunque altro».

OpenAI afferma di lavorare con Anthropic e Google a un organismo di standard. L'idea l'aveva lanciata per primo Demis Hassabis di Google DeepMind: un'agenzia di autoregolamentazione che testerebbe i sistemi più potenti prima del rilascio. Martedì il presidente Trump ha detto che i principali dirigenti dell'AI hanno accettato standard volontari. L'obiezione di Kak è che tali misure non tengono conto di come l'AI viene implementata nei paesi a basso e medio reddito: «Anche se queste aziende versassero miliardi di dollari per rendere sicuri i loro modelli, non affronteremmo l'altro lato del problema, cioè quanto sono resilienti gli ambienti in cui questi sistemi vengono integrati».

Gli strumenti di test sono già pubblici

I paesi che vogliono i propri controlli non devono partire da zero. Il UK AI Security Institute e Meridian Labs pubblicano Inspect, un framework open source per le valutazioni di frontiera. Include più di 200 benchmark predefiniti e supporta test di programmazione, attività agentiche, ragionamento e multimodali. La sua documentazione, aggiornata il 30 settembre, descrive un sistema di sandboxing per eseguire codice di modelli non fidati in Docker, Kubernetes, Modal e altri ambienti, oltre al supporto per valutare agenti esterni come Claude Code, Codex CLI e Gemini CLI.

La Corea del Sud offre un esempio funzionante del modello Stato più azienda. Kakao ha firmato lunedì un memorandum d'intesa con l'AI Safety Research Institute per costruire un framework di valutazione congiunto, secondo Aju Press del 29 settembre e un secondo articolo ripreso da Europe Says. Il piano in tre fasi inizia con valutazioni di sicurezza pre e post-implementazione dei modelli linguistici, si estende ai modelli multimodali e agli agenti di AI, per poi passare a strumenti di valutazione sviluppati congiuntamente. Kakao fornirà modelli, agenti e infrastruttura; l'istituto condurrà le valutazioni e affinerà la metodologia. «Man mano che la tecnologia AI diventa più sofisticata, avere un sistema che identifichi e valuti in modo proattivo i potenziali rischi diventa più importante che mai», ha detto la direttrice dell'istituto Kim Myung-ju.

Non tutte le modalità di fallimento sono un agente che impazzisce. La BBC ha riferito il 30 settembre che Mindgard, un'azienda che testa la sicurezza dell'AI, ha scoperto a luglio che i modelli Kimi K2.6 e K3 Swarm di Moonshot potevano essere aggirati (jailbroken) fino a discutere di come fabbricare armi biologiche e compiere assassinii. Mindgard ha avvisato Moonshot via email il 27 luglio; secondo l'azienda, la società ha contattato solo di recente, dopo che la BBC l'aveva cercata per un commento. Moonshot ha detto alla BBC di accogliere con favore il contributo di terzi «come pilastro chiave per costruire un'AI migliore e più sicura» e che il suo modello aveva generalmente mostrato «un alto tasso di rifiuto per questo tipo di richieste» nelle valutazioni interne. Mindgard non ha dimostrato se le risposte funzionerebbero.

Nel frattempo la corsa commerciale continua. OpenAI è in trattative per raccogliere 30 miliardi di dollari o più a una valutazione di circa 1.400 miliardi di dollari, ha riferito Ars Technica, citando persone vicine alla questione. Il suo fatturato annualizzato è cresciuto di oltre il 70 percento da luglio, fino a circa 70 miliardi di dollari. I suoi nuovi assistenti Dots sono puntati dritti contro Muse di Meta, lanciato l'8 settembre, dopo il quale il titolo di Meta è salito di circa il 18 percento.