5000 Sandboxes pro Sekunde: DeepSeek stellt Agent-Trainingsinfrastruktur DSec vor

Beim Training großer Modelle zählt Rechenleistung, beim Agent-Training zählt die Umgebung. Das jüngste DeepSeek-Paper, an dem Liang Wenfeng mitgeschrieben hat, stellt ein System namens DSec (DeepSeek Elastic Compute) vor. Es soll Sandboxes in großem Stil bereitstellen. Nach den veröffentlichten technischen Angaben erzeugt DSec pro Sekunde mehr als 5000 Sandboxes, an einem Tag bis zu 3 Millionen. In der Spitze laufen 380 000 Umgebungen gleichzeitig.

Der einzelne Cluster hinter dieser Größenordnung ist groß: rund 160 Knoten, 30 000 CPU-Kerne und 250 TB Arbeitsspeicher. Die Zahlen zeigen, dass der Engpass beim Agent-Training längst nicht mehr nur bei der GPU liegt, sondern bei der Planung und der Bereitstellung von Umgebungen.

Warum ist das Training eines Agenten so aufwendig? Beim Vortraining ist die Umgebung der GPU-Cluster: Daten hinein, Gradienten berechnen. Beim Agenten ist das anders. Er schreibt Code in einer Sandbox, startet Kompilierläufe, öffnet einen Browser, installiert sogar ein Betriebssystem. Jeder Schritt verändert den Zustand der Umgebung und kann sie jederzeit zum Absturz bringen. Deshalb braucht jede Trainingsrunde eine frische, saubere Sandbox, die nach Gebrauch weggeworfen wird.

Damit landet man wieder bei der Infrastruktur. Sie muss bei 5000 Sandboxes pro Sekunde für jede einzelne ein komplettes Betriebssystem samt Werkzeugkette installieren. Gleichzeitig dürfen Hunderttausende parallel laufende Sandboxes dem Cluster nicht den Arbeitsspeicher und die CPU wegziehen.

Das Paper weist außerdem darauf hin, wie stark sich die Anforderungen verschiedener Agent-Aufgaben an die Umgebung unterscheiden. Ein Agent, der Programmieraufgaben löst, braucht nur eine zustandslose Umgebung für Funktionsaufrufe. Ein Agent für SWE-bench braucht einen vollständigen Linux-User-Space. Bei Sicherheitsangriffen und Computer-Use-Szenarien reicht Isolation auf Containerebene nicht aus, dort muss eine virtuelle Maschine her. Für das Training eines Agenten, der kommerzielle Software bedient, braucht es sogar ein vollständiges Windows oder macOS mit grafischer Oberfläche und Treibern.

Das erklärt auch, warum die Verbesserung von Agent-Fähigkeiten immer stärker von der Ingenieursleistung der Infrastruktur abhängt. Wie Umgebungen gebaut, wie Sandboxes geplant und wie Ressourcen isoliert werden, entscheidet darüber, ob ein Agent in der realen Welt verlässlich arbeiten kann.

Für das heimische Rechenökosystem zeigt DSec einen weiteren Trend: Je näher sich die Fähigkeiten der Modelle kommen, desto mehr wird die technische Infrastruktur für Training und Inferenz zum entscheidenden Unterschied.