5000 sandboxów na sekundę. DeepSeek pokazuje DSec, infrastrukturę do treningu agentów

Trening dużych modeli rozstrzyga się na mocach obliczeniowych, trening agentów na środowiskach. Najnowsza praca DeepSeek, pod którą podpisał się Liang Wenfeng, opisuje system DSec (DeepSeek Elastic Compute). Ma rozwiązywać jeden problem: masowe tworzenie sandboxów na potrzeby treningu agentów. Z opublikowanych szczegółów technicznych wynika, że DSec produkuje ponad 5000 sandboxów na sekundę, 3 mln w ciągu doby, a szczytowo uruchamia 380 tys. jednocześnie.

Za taką skalą stoi równie duży pojedynczy klaster: około 160 węzłów, 30 tys. rdzeni CPU i 250 TB pamięci. Te liczby pokazują, że wąskim gardłem treningu agentów są już nie tylko GPU, ale też harmonogram zadań i dostarczanie środowisk.

Dlaczego trening agenta jest tak kosztowny? Bo środowiskiem pretreningu jest klaster GPU, do którego podaje się dane i liczy gradienty. Agent działa inaczej: pisze kod w sandboxie, uruchamia kompilację, otwiera przeglądarkę, a nawet instaluje system operacyjny. Każdy krok zmienia stan środowiska i w każdej chwili może je zepsuć. Dlatego w każdej rundzie treningu agent dostaje świeży, czysty sandbox, użyty raz i wyrzucony po zakończeniu.

Problem wraca do infrastruktury. Przy 5000 sandboxów na sekundę każdy z nich musi dostać kompletny system operacyjny i łańcuch narzędzi, a kilkaset tysięcy równoległych środowisk nie może zapchać pamięci i CPU klastra.

Praca zwraca też uwagę, że różne typy zadań agentowych stawiają środowisku skrajnie różne wymagania. Agent rozwiązujący zadania programistyczne potrzebuje tylko bezstanowego środowiska wywołań funkcji. Agent mierzący się z SWE-bench potrzebuje pełnego user space Linuksa. W scenariuszach bezpieczeństwa ofensywnego i computer-use izolacja na poziomie kontenera nie wystarcza, konieczna jest maszyna wirtualna. Trening agenta obsługującego komercyjne oprogramowanie wymaga natomiast pełnego Windowsa lub macOS z interfejsem graficznym i sterownikami.

To wyjaśnia, dlaczego poprawa możliwości agentów coraz mocniej zależy od kompetencji inżynierskich w infrastrukturze. Odpowiedzi na pytania, jak budować środowiska, jak je szeregować i jak izolować zasoby, decydują o tym, czy agent poradzi sobie z pracą w realnym świecie.

Dla krajowego ekosystemu obliczeniowego DSec pokazuje jeszcze jeden trend: gdy możliwości modeli się zbliżają, infrastruktura inżynierska treningu i wnioskowania staje się tym, co dzieli liderów od reszty.