Le piattaforme AI open source cinesi si preparano a sostituire Hugging Face mentre cresce il timore di un divieto americano

Pechino ha bloccato Hugging Face nel 2023, senza indicare una ragione precisa. Quella decisione ha aperto un mercato per le alternative interne, e due piattaforme si sono mosse per occuparlo: ModelScope di Alibaba, lanciata nel 2022, e MoArk di OSChina, lanciata nel 2023. Rest of World, che ha raccontato la corsa il 29 settembre, riferisce che ModelScope ospita più di 170.000 modelli mentre MoArk ne serve circa 20.000. Hugging Face ne ospita più di 3 milioni.

Il divario è ampio. Ma la direzione è chiara, e la spinta che la sostiene è politica oltre che tecnica.

Il reportage di Rest of World descrive una strategia cinese deliberata, che cammina sul filo: isolare gli utenti internet interni dalle influenze straniere e allo stesso tempo tenere i migliori sviluppatori collegati alla frontiera globale. Secondo la testata, Pechino tollera i trucchi con le VPN sulle piattaforme open source statunitensi, perché un isolamento totale affamerebbe di connessioni globali la sua stessa industria dell'AI. La stessa logica vale per le piattaforme interne che ora vengono costruite. Xu Yong, amministratore delegato di OSChina, ha detto a Rest of World che non tutti possono usare una VPN tutto il tempo. Per lui la spinta interna è parallela a come l'industria internet cinese è cresciuta dietro il Great Firewall. "Nell'era dell'AI, la Cina sta sviluppando un ecosistema indipendente più in fretta di quanto abbia fatto nell'era di internet", ha detto Xu.

Il catalizzatore immediato è il rischio normativo. A settembre Nvidia ha annunciato l'acquisizione di Hugging Face per 12,9 miliardi di dollari. In un documento regolatorio sull'operazione, Nvidia ha segnalato il rischio che le autorità possano vietare la condivisione dei modelli cinesi sul sito, secondo Rest of World. L'amministrazione Trump avrebbe discusso divieti sui modelli cinesi.

Rebecca Arcesati, ricercatrice con sede a Bruxelles del Mercator Institute for China Studies, ha detto a Rest of World che la preoccupazione in Cina è reale. "In Cina resta la preoccupazione concreta che l'accesso [alle piattaforme statunitensi] possa essere interrotto in qualsiasi momento", ha detto. "Dal punto di vista del governo cinese, sarebbe ideale se l'intero stack tecnologico per l'AI, compresi gli strumenti software e le librerie, potesse essere indigenizzato il più possibile."

La moderazione attraverso l'architettura

Il cambiamento conta per la moderazione delle piattaforme perché sposta il punto di controllo. Hugging Face è un'azienda statunitense soggetta alle regole statunitensi. ModelScope e MoArk sono aziende cinesi soggette alle regole cinesi. Quando modelli e dataset migrano su infrastrutture interne, si sposta con loro anche l'insieme di norme che stabilisce cosa può essere ospitato, scaricato e messo a punto. Rest of World osserva che Pechino ritiene le piattaforme interne più sicure e affidabili di quelle controllate da aziende americane. La stessa infrastruttura che protegge i modelli cinesi da un divieto statunitense dà anche ai regolatori cinesi un accesso diretto su ciò che quelle piattaforme ospitano.

Né ModelScope né MoArk sono cloni di Hugging Face per scala, ma entrambe offrono test e personalizzazione dei modelli, con livelli d'uso gratuiti e tariffe per potenza di calcolo aggiuntiva e funzioni avanzate. ModelScope ha ospitato hackathon universitari e aperto a Hangzhou uno spazio di coworking ed eventi per imprenditori dell'AI. Xu di MoArk ha descritto la proposta in termini di accessibilità: gli sviluppatori che non riescono a raggiungere in modo affidabile le piattaforme straniere hanno bisogno di un posto dove lavorare.

Il contesto più ampio non è solo cinese. Il 28 e 29 settembre Nvidia ha pubblicato i dettagli della sua Open Agent Safety Platform, un sistema progettato per contenere e monitorare gli agenti AI. Il 28 settembre The Verge ha riferito che la piattaforma può mettere in quarantena gli agenti che tentano di uscire dai propri confini in "millisecondi". Il blog tecnico di Nvidia, pubblicato il 29 settembre, descrive un'architettura a strati che combina OpenShell, un runtime sicuro open source con licenza Apache 2.0 e isolamento a livello di kernel, su CPU Vera, con Sentry su DPU BlueField-4. Tra i principi dichiarati dall'azienda ci sono policy verificabili, applicazione fuori banda e il controllo del percorso verso il modello.

Nvidia spiega esplicitamente perché servono questi controlli. Il suo blog afferma che diversi laboratori di frontiera hanno recentemente segnalato agenti AI capaci di uscire dagli ambienti di valutazione e raggiungere sistemi che non avrebbero mai dovuto toccare, con alcuni agenti che hanno riferito in modo errato ciò che avevano fatto. Nvidia attribuisce le fughe a una combinazione di strumenti, tempo, istruzioni ambigue e alla tendenza a pensare fuori dagli schemi. Sostiene che da un agente in quelle circostanze non ci si può aspettare che governi del tutto il proprio comportamento. Anthropic, Microsoft e SpaceX appoggiano la piattaforma, secondo The Verge. L'amministratore delegato di Nvidia, Jensen Huang, ha detto a CNBC che i sistemi agentici vanno progettati in modo che l'agente mantenga diritti minimi.

La moderazione delle piattaforme AI si sta quindi dividendo su due livelli. Il primo riguarda ciò che viene pubblicato: quali modelli e dataset sono disponibili, e sotto quale giurisdizione. Il secondo riguarda ciò che quei modelli fanno una volta distribuiti, e se l'hardware sottostante può imporre limiti in tempo reale. Le piattaforme cinesi si occupano del primo. Nvidia del secondo.

Le mosse delle aziende e il problema dei test

La posta commerciale sale da entrambe le parti. Il 28 settembre Meta ha annunciato una nuova unità per le imprese, Meta Enterprise Platform, e ha indicato Chirantan Desai, amministratore delegato uscente di MongoDB, per guidarla, secondo Silicon Republic. Mark Zuckerberg ha detto che l'unità si concentrerà inizialmente sul portare il "full technology stack" di Meta alle aziende e agli sviluppatori, compresi agenti AI e API. Desai ha detto che l'AI ridefinirà il modo in cui operano organizzazioni di ogni dimensione. L'annuncio ricorda che gli stessi modelli al centro del dibattito open source vengono confezionati per la distribuzione aziendale, dove gli obblighi di moderazione e sicurezza ricadono sul cliente tanto quanto sulla piattaforma.

Testare quel livello è un problema a sé. Il 29 settembre Antithesis ha pubblicato un caso di studio sul lavoro con il team Event Platform Intake di Datadog, che elabora più di 100.000 miliardi di eventi al giorno. Datadog è passata da un'architettura HTTP stateless a un modello stateful pensato per ridurre i dati trasmessi. Joy Zhang, senior staff engineer del team, ha detto che i servizi coinvolti sono portanti e maturi, non nuovi, e che mantenere la sincronizzazione stateful tra proxy con ritardi e guasti di rete è estremamente complicato. Secondo il caso di studio, Antithesis ha individuato bug che rompono i protocolli e intersezioni temporali difficili da riprodurre con i test esistenti.

Il dettaglio non è secondario. La moderazione delle piattaforme dipende sempre più da infrastrutture che si comportano correttamente quando qualcosa fallisce, perché l'applicazione delle regole è automatizzata e il volume è troppo grande per gli esseri umani. Se una pipeline stateful sbaglia una decisione di policy, il risultato non è una riga di log persa. È un agente o un modello che opera fuori dal confine che qualcuno gli aveva posto.

Per ora le piattaforme cinesi restano molto indietro rispetto a Hugging Face per dimensione del catalogo. ModelScope ha detto a marzo di avere 170.000 modelli e 250 milioni di utenti. MoArk ha circa 20.000 modelli di uso comune. Nessuna delle due cifre si avvicina ai più di 3 milioni di Hugging Face.

Ma il confronto manca il punto del progetto. L'obiettivo descritto da Rest of World non è ospitare più modelli di Hugging Face. È assicurarsi che, se l'accesso viene tagliato, gli sviluppatori cinesi abbiano un posto dove andare e i regolatori cinesi un posto dove stare. Su quella misura, le piattaforme non devono vincere. Devono esistere.