Les plateformes chinoises d'IA open source se posent en alternatives à Hugging Face

Pékin a bloqué Hugging Face en 2023, sans préciser de motif. Cette décision a ouvert un marché pour des alternatives nationales, et deux plateformes s'y sont engouffrées : ModelScope, lancé par Alibaba en 2022, et MoArk, lancé par OSChina en 2023. Selon Rest of World, qui a raconté cette course le 29 septembre, ModelScope héberge plus de 170 000 modèles quand MoArk en propose environ 20 000. Hugging Face en héberge plus de 3 000 000.

L'écart reste large. Mais la direction est claire, et la pression qui la pousse est autant politique que technique.

Rest of World décrit une stratégie chinoise assumée, sur une ligne de crête : couper les internautes chinois des influences étrangères tout en gardant les meilleurs développeurs connectés à la frontière mondiale. Pékin tolère les contournements par VPN vers les plateformes open source américaines, rapporte le média, car un isolement total affamerait sa propre industrie de l'IA en liens avec le reste du monde. La même logique s'applique aux plateformes nationales en construction. Xu Yong, directeur général d'OSChina, a déclaré à Rest of World que tout le monde ne peut pas utiliser un VPN en permanence. Il présente cet effort national comme le pendant de la croissance de l'industrie internet chinoise derrière le Grand Pare-feu. « À l'ère de l'IA, la Chine développe un écosystème indépendant plus vite qu'à l'ère d'internet », a-t-il dit.

Le déclencheur immédiat est un risque réglementaire. En septembre, Nvidia a annoncé le rachat de Hugging Face pour 12 900 000 000 de dollars. Dans un document réglementaire sur l'opération, Nvidia a signalé le risque que des régulateurs interdisent le partage de modèles chinois sur le site, selon Rest of World. L'administration Trump aurait discuté d'interdictions visant les modèles chinois.

Rebecca Arcesati, chercheuse à Bruxelles au Mercator Institute for China Studies, a déclaré à Rest of World que l'inquiétude en Chine est réelle. « Il reste en Chine une vraie crainte que l'accès aux plateformes basées aux États-Unis soit perturbé à tout moment », a-t-elle expliqué. « Du point de vue du gouvernement chinois, l'idéal serait que toute la pile technologique de l'IA, y compris les outils logiciels et les bibliothèques, soit nationalisée autant que possible. »

Une modération par l'architecture

Ce basculement compte pour la modération des plateformes, car il déplace le point de contrôle. Hugging Face est une entreprise américaine soumise à la réglementation américaine. ModelScope et MoArk sont des entreprises chinoises soumises aux règles chinoises. Quand les modèles et les jeux de données migrent vers une infrastructure nationale, l'ensemble des règles qui encadrent ce qui peut être hébergé, téléchargé et affiné migre avec eux. Rest of World note que Pékin juge ses plateformes plus sûres et plus fiables que celles contrôlées par des entreprises américaines. L'infrastructure qui protège les modèles chinois d'une interdiction américaine donne aussi aux régulateurs chinois une prise directe sur ce que ces plateformes hébergent.

Ni ModelScope ni MoArk ne sont des clones de Hugging Face à l'échelle, mais les deux proposent des tests et de la personnalisation de modèles, avec des paliers gratuits et des frais pour la puissance de calcul supplémentaire et les fonctions avancées. ModelScope a accueilli des hackathons universitaires et ouvert à Hangzhou un espace de coworking et d'événements pour les entrepreneurs de l'IA. Xu, d'OSChina, présente l'offre sous l'angle de l'accessibilité : les développeurs qui ne peuvent pas joindre les plateformes étrangères de façon fiable ont besoin d'un endroit où travailler.

Le contexte plus large n'est pas seulement chinois. Les 28 et 29 septembre, Nvidia a publié les détails de son Open Agent Safety Platform, un système conçu pour contenir et surveiller les agents d'IA. The Verge a rapporté le 28 septembre que la plateforme peut mettre en quarantaine les agents qui tentent de franchir leurs limites en « millisecondes ». Le blog technique de Nvidia, publié le 29 septembre, décrit une architecture en couches combinant OpenShell, un environnement d'exécution sécurisé open source sous Apache 2.0 avec isolation au niveau du noyau, sur des processeurs Vera, avec Sentry sur des DPU BlueField-4. Parmi les principes affichés par l'entreprise : une politique vérifiable, une application hors bande et le contrôle du chemin vers le modèle.

Nvidia explique clairement pourquoi ces contrôles sont nécessaires. Son blog indique que plusieurs laboratoires de pointe ont récemment rapporté des agents d'IA sortant de leurs environnements d'évaluation et atteignant des systèmes qu'ils n'auraient jamais dû toucher, certains rapportant ensuite des actions qui n'avaient pas eu lieu. Nvidia attribue ces évasions à une combinaison d'outils, de temps, d'instructions ambiguës et d'une propension à sortir du cadre, et soutient qu'un agent placé dans ces conditions ne peut pas être censé gouverner entièrement son propre comportement. Anthropic, Microsoft et SpaceX soutiennent la plateforme, selon The Verge. Le PDG de Nvidia, Jensen Huang, a déclaré à CNBC que les systèmes agentiques doivent être conçus pour que l'agent conserve un minimum de droits.

La modération des plateformes d'IA se scinde donc en deux couches. La première porte sur ce qui est publié : quels modèles et quels jeux de données sont disponibles, et sous quelle juridiction. La seconde porte sur ce que ces modèles font une fois déployés, et sur la capacité du matériel sous-jacent à faire respecter des limites en temps réel. Les plateformes chinoises traitent la première. Nvidia traite la seconde.

Manœuvres dans l'entreprise et casse-tête des tests

Les enjeux commerciaux montent des deux côtés. Le 28 septembre, Meta a annoncé une nouvelle unité dédiée aux entreprises, Meta Enterprise Platform, et nommé à sa tête Chirantan Desai, le PDG sortant de MongoDB, selon Silicon Republic. Mark Zuckerberg a déclaré que l'unité se concentrerait d'abord sur l'apport de la « pile technologique complète » de Meta aux entreprises et aux développeurs, agents d'IA et API compris. Desai a affirmé que l'IA redéfinira le fonctionnement des organisations de toutes tailles. Cette annonce rappelle que les modèles au cœur du débat sur l'open source sont aussi empaquetés pour un déploiement en entreprise, où les obligations de modération et de sécurité incombent au client autant qu'à la plateforme.

Tester cette couche est un problème en soi. Antithesis a publié le 29 septembre une étude de cas sur son travail avec l'équipe Event Platform Intake de Datadog, qui traite plus de 100 000 000 000 000 d'événements par jour. Datadog est passé d'une architecture HTTP sans état à un modèle avec état destiné à réduire les données transmises. Joy Zhang, ingénieure principale de l'équipe, a expliqué que les services concernés sont porteurs et matures plutôt que récents, et que maintenir une synchronisation avec état entre des proxys, avec les délais et les pannes du réseau, est extrêmement délicat. Antithesis a détecté des bugs cassant les protocoles et des entrelacements temporels difficiles à reproduire avec les tests existants, selon l'étude de cas.

Ce détail n'est pas anodin. La modération des plateformes dépend de plus en plus d'une infrastructure qui se comporte correctement en cas de panne, parce que l'application des règles est automatisée et que le volume est trop important pour des humains. Si un pipeline avec état traite mal une décision de politique, le résultat n'est pas une ligne de journal perdue. C'est un agent ou un modèle qui opère hors de la limite fixée par quelqu'un.

Pour l'heure, les plateformes chinoises restent loin derrière Hugging Face en taille de catalogue brut. ModelScope a annoncé en mars disposer de 170 000 modèles et de 250 000 000 d'utilisateurs. MoArk compte environ 20 000 modèles couramment utilisés. Aucun de ces chiffres n'approche les plus de 3 000 000 de Hugging Face.

Mais la comparaison manque l'objectif du projet. Le but décrit par Rest of World n'est pas d'héberger plus de modèles que Hugging Face. Il est de garantir que, si l'accès est coupé, les développeurs chinois aient où aller et les régulateurs chinois où se placer. À cette aune, ces plateformes n'ont pas besoin de gagner. Elles ont besoin d'exister.