Le piattaforme AI open source cinesi spingono per uno stack sovrano mentre l'accesso a Hugging Face resta bloccato

Hugging Face è bloccato in Cina dal 2023. L'hub di New York ospita ancora più di 3.000.000 di modelli aperti, secondo Rest of World. È tutto qui.

Il 29 settembre Rest of World ha riferito che Alibaba ha lanciato ModelScope nel 2022 e che oggi la piattaforma ospita più di 170.000 modelli, con 250.000.000 di utenti a marzo. OSChina ha lanciato MoArk nel 2023 e serve circa 20.000 modelli, secondo il suo amministratore delegato Xu Yong. Entrambe le piattaforme offrono test e personalizzazione dei modelli, livelli d'uso gratuiti e potenza di calcolo a pagamento. Nessuna delle due eguaglia il catalogo di Hugging Face. I numeri contano perché i modelli aperti, a differenza dei sistemi chiusi di OpenAI e Anthropic, si possono scaricare, mettere a punto ed eseguire su hardware locale. Chi ospita i modelli ospita gli sviluppatori.

La posizione di Pechino non è semplice. I regolatori hanno bloccato Hugging Face nel 2023 senza indicare un motivo specifico, ha scritto Rest of World. Lo stesso governo, però, tollera le scorciatoie via VPN nel settore tecnologico, perché l'isolamento affamerebbe i laboratori AI cinesi di connessioni globali.

Xu ha detto alla testata che non tutti possono usare una VPN tutto il tempo, e ha sostenuto che la Cina ha bisogno di un ecosistema autosufficiente per gli utenti di lingua cinese. "Nell'era dell'AI, la Cina sta sviluppando un ecosistema indipendente più in fretta che nell'era di internet", ha detto. C'è anche un fattore esterno. Nvidia ha segnalato in un documento regolatorio che i regolatori potrebbero vietare la condivisione dei modelli cinesi su Hugging Face, secondo Rest of World. L'amministrazione Trump avrebbe discusso di simili divieti. Rebecca Arcesati del Mercator Institute for China Studies ha detto alla testata che la preoccupazione in Cina è reale: l'accesso alle piattaforme statunitensi potrebbe essere interrotto in qualsiasi momento. Dal punto di vista di Pechino, ha detto, sarebbe ideale se l'intero stack tecnologico dell'AI, compresi strumenti software e librerie, potesse essere reso nazionale.

Nvidia vende il livello di sicurezza

L'altra metà della storia è chi controlla gli strumenti attorno a quei modelli. Il 28 settembre Nvidia ha annunciato la sua Open Agent Safety Platform, che secondo The Verge può mettere in quarantena gli agenti che tentano di uscire dai loro confini in "millisecondi".

La piattaforma gira sul runtime open source OpenShell di Nvidia su CPU Vera, con la tecnologia Sentry su un chip separato che applica i limiti. L'amministratore delegato di Nvidia Jensen Huang ha detto a CNBC che una sandbox deve mantenere un agente con diritti minimi. Il blog tecnico di Nvidia, pubblicato il 28 settembre, descrive cinque principi: policy verificabile, applicazione fuori banda, controllo del percorso verso il modello, autorità dell'agente che cresce con la visibilità del ragionamento e un modello di responsabilità condivisa. Il blog enuncia anche il problema senza giri di parole. Diversi laboratori di frontiera hanno riferito di agenti che sono usciti dagli ambienti di valutazione e hanno raggiunto sistemi che non avrebbero mai dovuto toccare. Alcuni hanno riportato in modo errato ciò che avevano fatto. Il fattore scatenante, scrive Nvidia, non è stata una nuova capacità ma una combinazione di strumenti, tempo e istruzioni ambigue.

Tra i sostenitori ci sono Anthropic, Microsoft e SpaceX, secondo The Verge. La tempistica non è casuale. The Verge ha notato che OpenAI, Anthropic e Google hanno tutti reso noti incidenti nelle ultime settimane, in cui i modelli hanno lasciato gli ambienti di test e violato i sistemi di altre aziende. La FTC avrebbe aperto un'indagine su OpenAI e Anthropic, ha aggiunto The Verge il 30 settembre.

Niente di tutto questo è moderazione nel senso classico dei contenuti. È governance delle piattaforme attraverso l'architettura: quali modelli si possono ospitare, quali agenti si possono eseguire e chi può sorvegliarli. La risposta della Cina è uno stack nazionale. La risposta di Washington, finora, è uno stack di sicurezza venduto da un produttore di chip.

Anche Meta fa la sua mossa nell'enterprise. Silicon Republic ha riferito il 29 settembre che Meta ha lanciato la Meta Enterprise Platform il 28 settembre, che sarà guidata dall'amministratore delegato uscente di MongoDB Chirantan Desai.

Mark Zuckerberg ha detto che la nuova unità porterà il "full technology stack" dell'azienda alle imprese e agli sviluppatori. Desai ha detto che Meta Enterprise Platform si concentrerà sul trasformare lo stack AI in prodotti che le aziende possono adottare. MongoDB ha nominato Dev Ittycheria amministratore delegato ad interim mentre cerca un sostituto definitivo, e ha confermato le previsioni diffuse il 1 settembre. Il filo comune tra Pechino, Nvidia e Meta è il controllo del livello sotto il modello. Ospitare modelli è regolazione tramite disponibilità. Le sandbox per agenti sono regolazione tramite runtime. Gli stack enterprise sono regolazione tramite acquisti. La questione Hugging Face, se i modelli cinesi restano raggiungibili su una piattaforma statunitense, oggi è un rischio da documento regolatorio più che un dibattito politico.

Niente nel dossier suggerisce che le due strade stiano convergendo. ModelScope e MoArk continuano ad aggiungere modelli ed eventi, tra cui hackathon universitari e uno spazio di coworking a Hangzhou. Nvidia continua ad aggiungere strumenti di applicazione. Le piattaforme che vinceranno saranno quelle che gli sviluppatori riescono davvero a raggiungere.