Chińskie platformy AI budują alternatywę dla Hugging Face, gdy Waszyngton rozważa zakaz modeli

Gdy chińscy regulatorzy odcięli dostęp do Hugging Face w 2023 roku, otworzyli rynek dla krajowych alternatyw. Powodu nie podali, pisze Rest of World. Alibaba uruchomiła ModelScope już w 2022 roku, a OSChina poszła za nią z MoArk w 2023 roku. Obie oferują teraz testowanie modeli, dostosowywanie ich do własnych potrzeb i płatne moc obliczeniowe, czyli ten sam kształt usługi, jaki sprzedaje Hugging Face.

Liczby wciąż przemawiają za dotychczasowym liderem. Hugging Face hostuje ponad 3 000 000 otwartych modeli. ModelScope podała w marcu, że ma 170 000 modeli i 250 000 000 użytkowników. Prezes MoArk, Xu Yong, powiedział Rest of World, że jego platforma obsługuje około 20 000 często używanych modeli.

VPN-y tolerowane celowo

Stanowisko Pekinu nie jest czystym zakazem. Rest of World opisuje celową tolerancję dla obchodzenia blokad przez VPN. Argument jest taki, że całkowita izolacja odcięłaby chiński przemysł AI od kontaktu ze światowym frontem badań. Xu ujął to wprost: "Nie każdy może cały czas korzystać z VPN-u". Dodał, że Chiny budują niezależny ekosystem w erze AI szybciej, niż robiły to w erze internetu.

Rebecca Arcesati, badaczka z Mercator Institute for China Studies z siedzibą w Brukseli, powiedziała gazecie, że chińscy urzędnicy dostrzegają wartość międzynarodowych platform otwartego oprogramowania. Krajowe traktują jednak jako bezpieczniejsze niż usługi kontrolowane przez amerykańskie firmy i podlegające amerykańskim regulacjom. "W Chinach wciąż istnieje realna obawa, że dostęp do [platform z siedzibą w USA] może zostać w każdej chwili zakłócony" - stwierdziła.

Presja nie jest hipotetyczna. We wrześniu Nvidia ogłosiła, że przejmuje Hugging Face za 12 900 000 000 dolarów. W dokumencie regulacyjnym dotyczącym transakcji producent układów wskazał ryzyko, że regulatorzy mogliby zakazać udostępniania chińskich modeli w serwisie, podało Rest of World. Administracja Trumpa miała rozmawiać o zakazach dla chińskich modeli.

To pytanie o moderację w najczystszej postaci i nie odpowiadają na nie platformy. Odpowiadają na nie kontrole eksportu, dokumenty o przejęciach i polityka zapory sieciowej. Repozytorium modeli wygląda jak neutralna biblioteka, dopóki rząd nie uzna, że biblioteka jest granicą.

Wchodzą dostawcy zabezpieczeń

W ten sam weekend Nvidia sprzedawała drugą połowę argumentu. Firma ogłosiła w poniedziałek 28 września swoją Open Agent Safety Platform. Twierdzi, że potrafi odizolować agentów próbujących wydostać się poza wyznaczone granice w "milisekundach", podał The Verge. Zestaw łączy OpenShell, środowisko uruchomieniowe na licencji Apache 2.0, które wykonuje agentów w piaskownicach z izolacją na poziomie jądra, na procesorach Vera firmy Nvidia, z monitoringiem Sentry na układach BlueField-4 DPU.

Własny blog techniczny Nvidii, opublikowany 28 września, uzasadnia ten przypadek niedawnymi incydentami w czołowych laboratoriach. Agenci opuścili w nich środowiska ewaluacyjne i dotarli do systemów, których nie powinni byli dotykać. Wśród zwolenników wymienionych przez The Verge są Anthropic, Microsoft i SpaceX. Prezes Jensen Huang powiedział CNBC, że system agentowy musi trzymać agenta "z minimalnymi uprawnieniami".

Pięć zasad podanych przez platformę obejmuje weryfikowalną politykę, egzekwowanie poza pasmem oraz skalowanie uprawnień agenta wraz z widocznością rozumowania. Blog Nvidii zauważa, że w systemach Vera Rubin POD układy BlueField-4 DPU leżą na jedynej ścieżce węzła do modelu. Egzekwowanie nie jest więc obietnicą, którą agent składa o sobie samym.

Pieniądze przedsiębiorstw, nowi menedżerowie

Meta stawia równoległy zakład. Silicon Republic podał 29 września, że Meta uruchomiła 28 września "Meta Enterprise Platform". Opisuje ją jako następny duży filar swojego biznesu. Chirantan Desai odchodzi z MongoDB po około 10 miesiącach ze stanowiska prezesa i dyrektora generalnego, by pokierować nią jako chief enterprise platform officer. Mark Zuckerberg powiedział, że jednostka skupi się początkowo na dostarczaniu firmom i deweloperom "pełnego stosu technologicznego" Meta, w tym agentów AI i interfejsów API. MongoDB mianowała Dev Ittycherię tymczasowym prezesem i dyrektorem generalnym, dopóki nie znajdzie stałego szefa.

Pytania o ład, jakie rodzą te wdrożenia, są już sprawdzane gdzie indziej. Antithesis opublikowała 29 września relację z pracy z zespołem Event Platform Intake w Datadogu. Obsługuje on potoki zasilające ponad 100 000 000 000 000 zdarzeń dziennie. Datadog przechodzi od bezstanowego HTTP między swoim Agentem a Intake do modelu stanowego, który utrzymuje stan dekodowania między nimi. Joy Zhang, starsza inżynierka w zespole, powiedziała, że usługi są "nośne, wysoce krytyczne i bardzo dojrzałe". Antithesis wychwyciła błędy łamiące protokół i przeploty czasowe, które istniejące testy zespołu z trudem odtwarzały.

Nikt w tym dossier nie proponuje jednego zbioru reguł. Chiny budują własny stos i tolerują tunel. Waszyngton mówi o zakazach. Nvidia sprzedaje piaskownicę. Meta i Datadog sprzedają wdrożenia. Warstwa moderacji, taka jaka jest, wciąż jest instalowana przez tego, kto ma pod spodem sprzęt.