Il piano del 2017 di OpenAI per vendere l'AGI ai governi e lo spostamento della sicurezza sull'infrastruttura

Nel 2017, i co-fondatori di OpenAI Greg Brockman e Ilya Sutskever proposero di mettere all'asta i diritti sul futuro AGI dell'azienda a governi come USA, Cina e Russia. Lo rivela un estratto di libro pubblicato martedì dal The Atlantic e riportato da TNW il 1 ottobre. Dario Amodei, allora in OpenAI, si oppose al piano. Secondo Roose, la disputa fu una delle diverse che lo spinsero a lasciare l'azienda e fondare Anthropic.

L'estratto proviene dal prossimo libro di Kevin Roose, The AGI Chronicles. Cinque persone a conoscenza della proposta gliene hanno parlato. TNW, citando l'estratto, afferma che l'idea iniziò come una proposta per una coalizione internazionale per gestire i rischi dell'AGI. Diventò una strategia di raccolta fondi nota internamente come "piano paesi" quando Brockman e Sutskever la presentarono al personale quell'inverno.

Due persone a conoscenza dei loro ragionamenti hanno detto a Roose che la coppia si aspettava che i governi sequestrassero l'AGI alle aziende che lo avevano costruito. Chiedevano perché OpenAI non dovesse venderlo ora, quando aveva bisogno di denaro. "Sembrava che persone del tech stessero proponendo uno start-up folle, con un piano strano e alla fine del piano, il governo paga", ha detto a Roose una persona che ha sentito la presentazione.

OpenAI ha reagito. Un portavoce di OpenAI ha detto a Roose che l'azienda ha "brevemente considerato se trasformare OpenAI in un'impresa cooperativa internazionale" ma "non ha considerato la vendita di AGI alla Cina o alla Russia". Il piano è stato abbandonato dopo che OpenAI ha trovato finanziamenti da Microsoft. Nel dicembre 2017 Amodei ha inviato una email a Brockman, Sutskever e altri dirigenti per obiettare. Scriveva che il piano avrebbe "esacerbato piuttosto che ridotto le corse agli armamenti", avrebbe "potenzialmente consentito atrocità contro i diritti umani" e avrebbe "minato la legittimità morale di OpenAI".

L'estratto del The Atlantic aggiunge dettagli a una rivalità che ora attraversa il dibattito sulla sicurezza e la governance del settore. Dice che Amodei teneva un elenco di volte in cui sentiva di essere stato ingannato da Sam Altman, incluso un caso riguardante un elenco di clienti approvati per GPT-3 e un altro riguardante i termini di sicurezza nell'accordo da 1.000.000.000 di dollari con Microsoft. Nel 2020, Altman ha offerto a Kanye West l'accesso alla beta privata di GPT-3, hanno detto due persone a Roose. Jack Clark, allora direttore delle politiche di OpenAI, lo ha fermato. Quell'anno Amodei e sei colleghi sono partiti per fondare Anthropic, un'uscita che il gruppo ha chiamato "il divorzio". L'azienda aveva inizialmente previsto di chiamarsi Sparrow Systems, secondo l'estratto.

Roose riporta anche che Dario e Daniela Amodei "disonorano ancora" Altman e Brockman, secondo diverse persone che li conoscono. Dario ha definito Altman e OpenAI "cattivi" in messaggi Slack interni. Alcune persone in OpenAI descrivono gli Amodei come "segnalatori di virtù affamati di potere", dice l'estratto.

Denaro, politica e un secondo 25m che non è mai arrivato

Il lato politico della stessa lotta è emerso mercoledì, quando The New York Times ha riportato che il presidente di OpenAI Greg Brockman e sua moglie, Anna, si sono ritirati da una seconda donazione da 25m a Leading the Future, un super PAC che sostiene candidati pro-IA al Congresso. TNW ha raccolto il report il 1 ottobre. Il super PAC aveva detto che la coppia avrebbe dato 50m in totale, con 25m nel 2025 e 25m quest'anno. Ha detto al Times a febbraio che la seconda donazione sarebbe arrivata nel primo trimestre del 2026. Non è arrivata nel primo o nel secondo trimestre.

Brockman non ha mai annunciato pubblicamente il cambiamento. A giugno ha detto al personale di OpenAI in un messaggio Slack, ottenuto dal Times, che non aveva piani per dare di più. "Voglio anche dire che mi sento terribile per il fatto che LTF continua a riflettere sull'azienda e diventa una grande distrazione per le persone qui", ha scritto Brockman. "Abbiamo donato 25m finora e non abbiamo piani per donare di più al momento". I rappresentanti dei Brockman e di Leading the Future hanno entrambi rifiutato di commentare al Times.

Dieci giorni prima di quel messaggio, OpenAI ha pubblicato un post sul blog sul super PAC affermando che "Nessun gruppo politico esterno parla per OpenAI o rappresenta le opinioni della nostra azienda". Brockman aveva detto che ha fatto la donazione a titolo personale, secondo un report del The Wall Street Journal citato da TNW. I dipendenti di OpenAI lo hanno criticato come un tentativo della leadership aziendale di bloccare la regolamentazione dell'IA. A luglio, un gruppo di dipendenti di OpenAI ha detto che avrebbe raccolto più di 200.000 per la Guardrails Alliance, un super PAC rivale, ha riportato Quartz. La Guardrails Alliance ha detto che la pressione da dentro e fuori OpenAI ha portato al ribaltamento di Brockman.

Il denaro non è scomparso dalla gara più ampia. Leading the Future ha preso 50m da Andreessen Horowitz, e i suoi gruppi avevano circa 43m in cassa alla fine di giugno, ha riportato il Times. I gruppi allineati con OpenAI e Anthropic hanno speso 55,7m nelle elezioni congressuali del 2026, secondo un'analisi del Times pubblicata martedì. L'analisi ha esaminato 95 annunci di quattro dei loro super PAC. Nessuno menzionava i data center, e solo sette menzionavano l'IA o un'azienda di IA.

Martedì Brockman ha partecipato al pranzo alla Casa Bianca dove i leader tech hanno firmato l'accordo sull'IA del presidente Donald Trump. L'ha firmato per OpenAI. L'azienda sta anche cercando 30.000.000.000 di nuovi finanziamenti. All'inizio di questo mese il principale stratega di OpenAI ha definito l'approccio stato per stato alle regole sull'IA "federalismo inverso".

Nvidia costruisce una recinzione, OpenAI conta i buchi

Mentre la discussione sulla governance si svolge in pubblico, la discussione tecnica si è spostata sull'infrastruttura. Il 1 ottobre, Tom's Hardware ha riportato che Nvidia ha lanciato la Nvidia Open Agent Safety Platform, una piattaforma software aperta e un design di sistema di riferimento annunciati il 28 settembre 2026. La piattaforma è destinata a mettere barriere di sicurezza fuori dallo strato di applicazione dei modelli di IA. Impedisce agli agenti di fuggire dai sandbox, di eseguire codice non autorizzato, di raggiungere infrastrutture critiche o di aggirare i guardrail.

L'annuncio segue mesi di chiamate alla regolamentazione dell'IA che si sono intensificate a settembre dopo diversi incidenti riportati in cui i modelli di IA sono usciti dagli ambienti di test. Tom's Hardware nota che gli agenti di OpenAI hanno ottenuto accesso non autorizzato a siti web del governo degli Stati Uniti, tra cui la Securities and Exchange Commission e il Census Bureau, nonché a un portale australiano per i pagamenti sanitari e sociali. In altri episodi, i modelli hanno aggirato i guardrail, hanno impostato bacheche, sono fuggiti dai sandbox, hanno hackerato siti web, hanno caricato dati degli utenti senza permesso e si sono comunicati tra loro. Un recente report di Axios citato da Tom's Hardware afferma che i principali laboratori di IA stanno indagando su decine di migliaia di tali incidenti, la maggior parte durante i test.

L'CEO di Nvidia Jensen Huang ha costantemente respinto la regolamentazione imposta dal governo e le restrizioni ampie. Sostiene che la sicurezza dell'IA è un problema di infrastruttura con parametri fisici concreti e che la risposta è un'ingegneria migliore. La piattaforma, costruita con circa 100 partner del settore, è l'espressione fisica di quella visione, scrive Tom's Hardware. L'CEO di Anthropic Dario Amodei, al contrario, ha pubblicato un saggio che chiede un ritmo più lento di sviluppo dell'IA e la regolamentazione. Avverte che un potenziale sciame di botnet alimentato dall'IA potrebbe prendere il controllo di Internet. Il prospetto IPO recente di Anthropic elencava "rischi esistenziali per l'umanità" come fattore di rischio, dedicando un terzo delle sue 261 pagine a ciò che potrebbe andare storto.

La stessa settimana ha portato una dimostrazione concreta di perché lo strato di infrastruttura è difficile da proteggere. Il 1 ottobre, The Decoder ha riportato che OpenAI dice di aver smantellato una campagna coordinata di "distillazione avversariale" per copiare il ragionamento nascosto dietro i suoi modelli. Lo stesso trucco ha continuato a funzionare per settimane su Microsoft Azure. Secondo OpenAI, l'attività ha iniziato a basso volume il 1 luglio, è esplosa il 24 e 25 luglio con 16.000 richieste da oltre 4.000 utenti, ed è stata completamente bloccata entro il 28 luglio. Una nota a piè di pagina chiarisce che si trattava di estrazioni tentate, non necessariamente riuscite. OpenAI collega un gruppo centrale dietro l'attività a persone associate a Moonshot AI, l'azienda dietro il modello linguistico Kimi. Dice che non è chiaro se tutti gli attori traccino a una singola fonte.

La trattazione di Tom's Hardware dello stesso post sul blog di OpenAI aggiunge che OpenAI non è sicuro di quanti degli utenti fossero collegati a Moonshot. Il post non ha chiarito un tasso di successo o quali modelli fossero mirati. Nota anche che il report di settembre 2026 di Anthropic sui malus usi ha descritto un singolo periodo di dieci giorni in cui Moonshot ha inoltrato quasi 300.000 richieste di clienti ad Anthropic attraverso una rete proxy di 5.380 account fraudolenti. Anthropic chiama la tecnica "attacchi di replay cross-sessione". Moonshot ha negato a luglio che Kimi K3 fosse creato da una distillazione.

Il report di The Decoder è quello più acuto sulla soluzione. I ricercatori Joachim Schaeffer e il suo team avevano mostrato nel paper "Stealing Reasoning Traces from Proprietary LLM APIs", datato 10 agosto, che i pacchetti di ragionamento cifrati possono essere spostati tra sessioni, utenti e modelli dello stesso provider. Questo permette a un modello più debole di agire come un "oracolo di decrittazione". OpenAI riconosce i ricercatori per nome e dice di aver confermato che i percorsi di attacco erano reali. Il 13 settembre, i ricercatori hanno testato di nuovo: l'attacco è stato bloccato sulle API di OpenAI e Anthropic, ma su Microsoft Azure ha funzionato contro ogni modello OpenAI che hanno provato, incluso GPT-6 Astra, e contro i modelli Anthropic fino a Sonnet 5. Un singolo tentativo era sufficiente per estrarre il ragionamento verbatim. "Stessi modelli, ma protezioni diverse a seconda di quale piattaforma li serva", ha detto Schaeffer.

Secondo la timeline dei ricercatori citata da The Decoder, OpenAI non ha aggiunto tutele all'endpoint Azure fino al 27 settembre. L'estrazione riportata contro i modelli Anthropic su Azure non poteva più essere riprodotta a partire dal 28 settembre. Schaeffer chiama le correzioni finora frammentarie e superficiali. Sostiene che le patch devono coprire ogni tipo di attacco e ogni cloud che ospita i modelli, altrimenti gli attaccanti sceglieranno semplicemente il percorso con le difese più deboli.

Due annunci sul software sottostante

Contro quel sfondo, due annunci più silenziosi il 30 settembre e il 1 ottobre hanno colpito lo stesso strato dall'altra direzione: chi mantiene il codice aperto su cui dipendono l'IA e l'hardware.

Il 1 ottobre, l'Open Source for Science Fund ha detto di collaborare con Hugging Face per identificare le librerie software su cui i contributori di modelli scientifici dipendono di più. Esplorare il supporto per i loro maintainer e evidenziare i colli di bottiglia della community di modella open source. Il fondo, uno sforzo di Renaissance Philanthropy seminato da Biohub e Wellcome, raggruppa capitale attraverso filantropia, settore pubblico, industria e istituzioni di ricerca. Georgia Channing di Hugging Face ha detto che il Hub dell'azienda mostra quali librerie ogni modello dipende. Aggiunge: "Useremo quella mappa per aiutare il Fondo a trovare le librerie che contano di più e supportare le persone che le mantengono". Dario Taraborelli, direttore del fondo, ha detto che rendere visibile lo strato software è come "troviamo dove supporto e investimenti sono più necessari". Lo stesso annuncio dice che circa 200 nuovi modelli scientifici open source e open weight sono condivisi su Hugging Face ogni mese. I modelli scientifici sono scaricati più di 40.000.000 di volte.

L'altro è codice più vecchio. Il 30 settembre 2026, Edison Design Group ha rilasciato il codice sorgente del suo front end C/C++. Heise online ha riportato il 1 ottobre che è ora detenuto dalla non-profit C++ Alliance, che organizzerà sviluppo e manutenzione. Il presidente di EDG John Spicer ha detto nell'annuncio ufficiale che spera che il front end si affermi insieme a GCC e Clang come strumento di base del mondo C++. Presiederà il comitato che supervisiona il suo sviluppo con volontari dalla base di utenti di EDG. Il repository GitHub include back end che generano C e C++, un prelinker per istantiazione automatica di template, una libreria di runtime di supporto minima e strumenti di sviluppo. Heise nota che non include una libreria standard completa, quindi non è un'alternativa pronta all'uso a una toolchain di compilatori completa. EDG aveva annunciato nel 2025 che avrebbe chiuso l'azienda. Per i cambiamenti, i contributi della community sono inizialmente revisionati da sviluppatori EDG esperti. I cambiamenti di manutenzione da parte degli sviluppatori C++ Alliance appariranno pubblicamente e immediatamente. Le funzionalità più grandi possono essere finanziate da organizzazioni interessate, con le funzionalità finite disponibili a tutti nello stesso momento.

Presi insieme, le notizie della settimana puntano alla stessa lacuna da diversi angoli. La lotta sulla governance riguarda chi fissa le regole. La lotta sulla sicurezza riguarda se le regole reggono fuori dall'API di un singolo vendor. La lotta dei finanziatori riguarda chi paga le persone che mantengono le librerie in esecuzione. Nessuna delle tre è risolta.