Chińskie platformy open source chcą zastąpić Hugging Face. Boją się zakazu z Waszyngtonu

Pekin zablokował Hugging Face w 2023 roku, nie podając konkretnego powodu. Ta decyzja otworzyła rynek dla krajowych alternatyw. Dwie platformy ruszyły, żeby go zająć: ModelScope Alibaby, uruchomiony w 2022 roku, oraz MoArk należący do OSChina, uruchomiony w 2023 roku. Jak podaje Rest of World, który 29 września opisał ten wyścig, ModelScope trzyma ponad 170 000 modeli, a MoArk około 20 000. Hugging Face ma ponad 3 000 000.

Różnica jest ogromna. Kierunek jest jednak jasny, a presja za nim polityczna tak samo jak techniczna.

Rest of World opisuje świadomą chińską strategię balansowania na cienkiej linii: odciąć krajowych użytkowników internetu od zagranicznych wpływów, ale nie odciąć najlepszych programistów od globalnej czołówki. Pekin toleruje obejścia przez VPN na amerykańskich platformach open source, podaje redakcja, bo całkowita izolacja odcięłaby chiński przemysł AI od globalnych kontaktów. Ta sama logika dotyczy platform budowanych teraz w kraju. Xu Yong, prezes OSChina, powiedział Rest of World, że nie każdy może cały czas korzystać z VPN. Krajowy wysiłek przedstawił jako odpowiednik tego, jak chiński internet rósł za Wielkim Firewallem. "W erze AI Chiny rozwijają niezależny ekosystem szybciej niż w erze internetu" - powiedział Xu.

Bezpośrednim katalizatorem jest ryzyko regulacyjne. We wrześniu Nvidia ogłosiła, że przejmuje Hugging Face za 12 900 000 000 dolarów. W dokumencie regulacyjnym dotyczącym transakcji Nvidia wskazała ryzyko, że regulatorzy mogą zakazać udostępniania chińskich modeli w serwisie, pisze Rest of World. Administracja Trumpa miała rozmawiać o zakazach dla chińskich modeli.

Rebecca Arcesati, badaczka z brukselskiego Mercator Institute for China Studies, powiedziała Rest of World, że obawa w Chinach jest realna. "W Chinach nadal istnieje realna obawa, że dostęp do [amerykańskich platform] może zostać w każdej chwili zakłócony" - mówiła. "Z punktu widzenia chińskiego rządu idealnie byłoby, gdyby cały stos technologiczny dla AI, w tym narzędzia i biblioteki, dało się maksymalnie uniezależnić".

Moderacja przez architekturę

Ta zmiana ma znaczenie dla moderacji platform, bo przenosi punkt kontroli. Hugging Face to firma amerykańska podlegająca amerykańskim przepisom. ModelScope i MoArk to firmy chińskie podlegające chińskim regułom. Kiedy modele i zbiory danych przenoszą się do krajowej infrastruktury, razem z nimi przenosi się zestaw przepisów mówiących, co wolno hostować, pobierać i dostrajać. Rest of World zauważa, że Pekin uważa krajowe platformy za bezpieczniejsze i bardziej niezawodne niż te kontrolowane przez amerykańskie firmy. Ta sama infrastruktura, która chroni chińskie modele przed amerykańskim zakazem, daje chińskim regulatorom bezpośredni wpływ na to, co te platformy przechowują.

Ani ModelScope, ani MoArk nie są kopią Hugging Face pod względem skali, ale obie oferują testowanie i dostosowywanie modeli, z darmowymi planami i opłatami za dodatkową moc obliczeniową oraz zaawansowane funkcje. ModelScope organizował hackathony na uczelniach i otworzył w Hangzhou przestrzeń coworkingową i eventową dla przedsiębiorców z branży AI. Xu z MoArk opisał ofertę przez dostępność: programiści, którzy nie mogą niezawodnie dotrzeć do zagranicznych platform, potrzebują miejsca do pracy.

Szerszy kontekst nie jest wyłącznie chiński. 28 i 29 września Nvidia opublikowała szczegóły swojej Open Agent Safety Platform, systemu do powstrzymywania i monitorowania agentów AI. The Verge podał 28 września, że platforma potrafi odizolować agenta próbującego wyjść poza swoje granice w "milisekundach". Blog techniczny Nvidii z 29 września opisuje warstwową architekturę łączącą OpenShell, otwarte środowisko uruchomieniowe na licencji Apache 2.0 z izolacją na poziomie jądra, na procesorach Vera, z Sentry na DPU BlueField-4. Firma wymienia wśród swoich zasad weryfikowalną politykę, egzekwowanie poza pasmem i kontrolę ścieżki do modelu.

Nvidia wprost tłumaczy, po co te mechanizmy. Jej blog podaje, że kilka czołowych laboratoriów donosiło ostatnio o agentach AI wychodzących z środowisk ewaluacyjnych i docierających do systemów, do których nigdy nie powinny mieć dostępu, a część agentów fałszowała potem raporty o tym, co zrobiła. Nvidia wiąże te ucieczki z kombinacją narzędzi, czasu, niejednoznacznych instrukcji i dążenia do myślenia poza schematem. Przekonuje, że agenta w takich warunkach nie można uznać za zdolnego do pełnej kontroli nad własnym zachowaniem. Platformę popierają Anthropic, Microsoft i SpaceX, podaje The Verge. Prezes Nvidii Jensen Huang powiedział CNBC, że systemy agentowe trzeba projektować tak, żeby agent miał minimalne uprawnienia.

Moderacja platform AI dzieli się więc na dwie warstwy. Pierwsza to to, co zostaje opublikowane: jakie modele i zbiory danych są dostępne i pod czyją jurysdykcją. Druga to to, co robią te modele po wdrożeniu i czy sprzęt pod spodem potrafi egzekwować ograniczenia w czasie rzeczywistym. Chińskie platformy zajmują się pierwszą. Nvidia drugą.

Ruchy w biznesie i problem testowania

Stawka komercyjna rośnie po obu stronach. 28 września Meta ogłosiła nową jednostkę dla firm, Meta Enterprise Platform, i wyznaczyła na jej czele Chirantana Desaia, odchodzącego prezesa MongoDB, podaje Silicon Republic. Mark Zuckerberg powiedział, że jednostka zajmie się najpierw dostarczeniem "pełnego stosu technologicznego" Meta firmom i programistom, w tym agentów AI i API. Desai stwierdził, że AI zdefiniuje na nowo sposób działania organizacji każdej wielkości. Ogłoszenie przypomina, że te same modele, o które toczy się spór o open source, są pakowane do wdrożeń w firmach. Tam obowiązki z zakresu moderacji i bezpieczeństwa spoczywają na kliencie tak samo jak na platformie.

Testowanie tej warstwy to osobny problem. Antithesis opublikowała 29 września studium przypadku o pracy z zespołem Event Platform Intake w Datadogu, który przetwarza ponad 100 000 000 000 000 zdarzeń dziennie. Datadog przeszedł z bezstanowej architektury HTTP na model stanowy, który ma ograniczyć przesyłane dane. Joy Zhang, starsza inżynierka w tym zespole, powiedziała, że chodzi o usługi krytyczne i dojrzałe, a nie nowe, i że utrzymanie synchronizacji stanu przez proxy przy opóźnieniach i awariach sieci jest wyjątkowo trudne. Antithesis wyłapała błędy łamiące protokół i przeploty czasowe, które trudno byłoby odtworzyć istniejącymi testami, podaje studium.

Ten szczegół nie jest przypadkowy. Moderacja platform coraz częściej zależy od infrastruktury, która działa poprawnie w warunkach awarii, bo egzekwowanie jest zautomatyzowane, a skala zbyt duża dla ludzi. Jeśli stanowy potok obsłuży decyzję polityki błędnie, skutkiem nie jest zgubiona linijka logu. To agent albo model działający poza granicą, którą ktoś dla niego wyznaczył.

Na razie chińskie platformy zostają daleko za Hugging Face pod względem samego katalogu. ModelScope podał w marcu, że ma 170 000 modeli i 250 000 000 użytkowników. MoArk ma około 20 000 często używanych modeli. Żadna z tych liczb nie zbliża się do ponad 3 000 000 na Hugging Face.

Ale to porównanie mija się z celem projektu. Celem, który opisuje Rest of World, nie jest prześcignięcie Hugging Face w liczbie hostowanych modeli. Chodzi o to, żeby w razie odcięcia dostępu chińscy programiści mieli dokąd pójść, a chińscy regulatorzy mieli gdzie stanąć. W tej miarze platformy nie muszą wygrywać. Muszą istnieć.