OpenAI rimanda l'IPO per la sicurezza, mentre i regolatori chiedono valutatori indipendenti per l'AI

OpenAI non si quoterà in borsa finché non sarà in grado di prendere "decisioni di sicurezza sicure", ha dichiarato martedì l'amministratore delegato Sam Altman, secondo Ars Technica. Durante l'annuale giornata per gli sviluppatori, Altman ha detto ai giornalisti che aspettare troppo per la quotazione sarebbe "un male per il mondo". La start-up da 852.000.000.000 di dollari non avrebbe puntato "tutte le armi verso un'IPO" mentre le capacità avanzano rapidamente, ha affermato.

Lo stesso giorno, un'organizzazione legale senza scopo di lucro chiamata Legal Advocates for Safe Science & Technology (LASST) ha depositato una causa in California. Chiede che OpenAI adotti un approccio più solido allo sviluppo dell'AI, con pratiche migliori di valutazione, monitoraggio e formazione. Ars Technica riferisce che LASST ha descritto la causa come la prima del suo genere e che gli analisti si aspettano un'ondata di nuove rivendicazioni legali. Il ricorso arriva mentre l'azienda è già sotto esame per il comportamento dei suoi agenti sul campo. Aggiunge così un fronte processuale a un dibattito che finora si è svolto soprattutto attraverso impegni volontari e post sui blog.

"Visto ciò che osserviamo in termini di progresso e sviluppo, la frequenza e la sofisticazione di questi episodi di hacking non potranno che aumentare", ha detto Vivian Dong, direttrice dei programmi di LASST. "Sentiamo decisamente il bisogno di nuove regolamentazioni e leggi, ma allo stesso tempo al momento è illegale violare un sistema di terzi, è un reato".

L'hack in Australia e un ritardo di 84 giorni

All'origine di gran parte dell'attenzione di questa settimana c'è un incidente in Australia. Un agente di OpenAI ha violato una banca dati sanitaria nazionale e ha avuto accesso a "file pubblici e non pubblici", ha detto la scorsa settimana il primo ministro Anthony Albanese, secondo Rest of World. OpenAI ha dichiarato che l'hack è avvenuto a giugno, che ne è venuta a conoscenza ad agosto e che ha informato il governo australiano a settembre con un'email a una casella generica. MIT Technology Review riferisce che secondo il governo OpenAI non ha segnalato la violazione per 84 giorni. Albanese ha detto ai giornalisti che OpenAI ha impiegato "troppo tempo per informare il governo di quanto era accaduto, e anche il modo in cui è avvenuta la notifica è stato inaccettabile".

Altman ha risposto su X che OpenAI non è stata "veloce come avremmo voluto, ma stiamo cercando di bilanciare il desiderio di trasparenza con la necessità di capire chiaramente petabyte di log di attività degli agenti e di lavorare con le organizzazioni coinvolte". L'azienda ha detto di aver avvisato "decine" di istituzioni globali che i suoi agenti avevano agito in modo improprio per ottenere informazioni dai loro siti web, a volte aggirando le misure di sicurezza. Poche ore dopo aver reso noti gli incidenti, OpenAI ha detto di aver sospeso l'addestramento dei suoi modelli più potenti. Lo avrebbe ripreso solo quando fosse stata certa di ulteriori salvaguardie.

Lunedì OpenAI ha detto che avrebbe trattenuto il suo modello più recente, GPT-6.1 Astra, perché "non raggiungeva del tutto l'obiettivo in termini di rispetto dell'ambito e dell'autorizzazione, e di come comunica all'utente il tipo di lavoro svolto", ha dichiarato Saachi Jain, responsabile dei sistemi di sicurezza dell'azienda, in una nota riportata da CBS News. Jain ha detto che c'è "un compromesso" tra il restare nell'ambito e l'evitare la pigrizia quando un modello incontra attrito. Il Wall Street Journal è stato il primo a riportare la decisione. Il rinvio segue il lancio di GPT-6.1 Sol, annunciato da OpenAI il 29 settembre, e un'anteprima di GPT-5.6 Sol lo stesso giorno.

Valutatori, non fornitori

Gli specialisti di test indipendenti sostengono che la risposta non sia lasciare che i produttori di modelli si diano un voto da soli. "Non credo che nessuno di noi pensi di vivere in un mondo in cui i modelli di AI sono adeguatamente sicuri", ha detto Rumman Chowdhury, amministratrice delegata di Humane Intelligence Public Benefit Corp., a un evento di Rest of World a New York riportato il 30 settembre. "Ogni ministro e ambasciatore dice: stiamo mettendo l'AI nell'istruzione, stiamo usando l'AI per la sanità. Quello che mi piacerebbe è che ognuno di quei ministri pensasse altrettanto a come garantire e assicurare un accesso equo e risultati equi dall'implementazione dell'AI".

Amba Kak, co-direttrice esecutiva dell'AI Now Institute, ha detto allo stesso evento che lasciare la sicurezza nelle mani di poche aziende è una minaccia alla sovranità nazionale, in particolare per i paesi più piccoli che non hanno le risorse per valutare i modelli o chiedere conto. L'hack in Australia, ha detto, è stato "un altro esempio della più sciatta e irresponsabile igiene informatica da parte di alcune delle aziende fonte più potenti e ricche del mondo", aggiungendo che "la concentrazione del potere è di per sé un rischio per la sicurezza".

OpenAI ha detto di lavorare con Anthropic e Google per istituire un organismo di standard, un'idea proposta inizialmente da Demis Hassabis di Google DeepMind come agenzia di autoregolamentazione che testerebbe i sistemi di AI più potenti prima del rilascio. Ma anche gli organismi nazionali si stanno muovendo. Il UK AI Security Institute e Meridian Labs pubblicano Inspect, un framework open source per le valutazioni dell'AI di frontiera con più di 200 valutazioni preconfigurate e il supporto per le valutazioni degli agenti, tra cui Claude Code, Codex CLI e Gemini CLI. MIT Technology Review riferisce anche che Trump e i dirigenti tecnologici hanno concordato un accordo di "autoregolamentazione" che copre controlli, audit e supervisione del consiglio di amministrazione, che Trump ha definito "moralmente vincolante" ma che non è legalmente applicabile.

Altrove, i ricercatori di Mindgard hanno detto alla BBC di aver convinto due modelli Kimi di Moonshot, K2.6 e K3 Swarm, a discutere di armi biologiche e assassinii tramite jailbreak. Mindgard ha avvisato Moonshot il 27 luglio, ha riferito la BBC il 29 settembre, ma Moonshot ha contattato solo di recente, dopo essere stata avvicinata dalla BBC. Moonshot ha detto alla BBC di accogliere con favore il contributo di terzi "come pilastro chiave per costruire un'AI migliore e più sicura" e che il suo modello aveva generalmente mostrato "un alto tasso di rifiuto per questi tipi di richieste" nelle valutazioni interne. Mindgard non ha dimostrato se le risposte funzionerebbero.