OpenAI setzt Jalapeno-ASICs auf AMD-Turin-Hosts ein, während Flüssigkühlung die Luftkühlung ablöst

Laut Tom's Hardware vom 2. Oktober wird der neue Jalapeno-ASIC von OpenAI intern zusammen mit AMD-EPYC-Turin-Hosts eingesetzt, die jeweils über 1,5 TB Speicher verfügen. Richard Ho, VP und Head of Hardware bei OpenAI, nannte die Wahl von Turin gegenüber dem Medium „pragmatisch" und sagte, dass Nvidias neue Vera-CPU "auf dieser Reifegradstufe etwas zurückliegt".

Für ein Unternehmen, das stark auf Nvidia-Silizium setzt, ist das eine bemerkenswerte Aussage. Ho rahmte es als Risikomanagement statt als Präferenz ein.

„So haben wir das Design angegangen, wirklich im Sinne der Risikominderung und um es schnell umzusetzen", sagte Ho gegenüber Tom's Hardware Premium. „Beim Jalapeno-Programm wollten wir sehr pragmatische Entscheidungen treffen. Wir wollten bei den Zielen für Leistung und Kosten ambitioniert sein, aber keine unnötigen Risiken eingehen."

Die Rack-Skalierung wurde erstmals von SemiAnalysis beschrieben, wie derselbe Bericht angibt. Tom's Hardware merkte an, dass Arm-basierte Alternativen wie Google Clouds Axiom, AWS Graviton und Arms eigener AGI-Chip als agentische CPUs positioniert sind, die darauf abzielen, die Reasoning-Loops zu beschleunigen, die agentische Workloads ausführen. Turin ist x86. OpenAI wählte es trotzdem, und Hos Antwort deutet darauf hin, dass die Reife der umgebenden Plattform wichtiger war als der Befehlssatz.

Warum die Racks immer heißer werden

Die Hardware-Entscheidungen upstream haben eine physische Konsequenz downstream. Wanma Technology schreibt in einem Leitfaden für Flüssigkühlungs-Schränke vom 29. September, dass traditionelle luftgekühlte Serverschränke bei 8 bis 10 Kilowatt pro Rack ausreichen, eine Schwelle, die vor Jahrzehnten festgelegt wurde, als der Stromverbrauch der Prozessoren moderat war. Hochleistungs-Chips ziehen heute 700 Watt, 1.200 Watt oder mehr pro Einheit, und das Ausstatten eines einzelnen Schranks mit mehreren von ihnen überschreitet das, was erzwungene Luftkühlung ableiten kann.

Das Ergebnis ist thermisches Throttling, Leistungsverlust oder ein kompletter Ausfall, wenn die Kühlung nicht mithalten kann. Wanma beschreibt den Wechsel zu Flüssigkühlung für alle, die moderne Compute-Systeme im großen Maßstab einsetzen, als Notwendigkeit und nicht als Optimierung.

CoolIT nennt in einem gesponserten Artikel, der am 22. September von IEEE Spectrum veröffentlicht wurde, eine härtere Zahl: Jenseits von 250 kW pro Rack funktioniert ein hybrider Ansatz aus Flüssigkeit und Luft nicht mehr, weil ein 70/30-Verhältnis immer noch 75 kW Wärme für das Luftsystem übrig lässt. CoolIT sagt, Flüssigkeit kann effektiv die gesamte Wärme aufnehmen, wobei Luft unter 1 Prozent der Last fällt, was es einem Server ermöglicht, ventilatorlos zu laufen. Das Unternehmen erklärt, seine Schleifen seien aus modularen Coldplate-Blöcken gebaut, die in sechs Generationen ventilatorloser Designs bewährt sind.

Das ist ein Vendor-Framing und sollte als solches gelesen werden. Aber die Richtung stimmt mit dem überein, was Betreiber kaufen.

CDUs erhalten ein Qualifizierungsbadge

Nvidia hat am 21. September damit begonnen, einen Teil der Lieferkette zu standardisieren, und kündigte DSX Ready an, ein Qualifizierungsprogramm für Partnerprodukte, die die Anforderungen an das DSX AI Factory Reference Design erfüllen. Das Programm startete mit zwei Kategorien: Batteriespeichersysteme und Cooling Distribution Units. Qualifizierte BESS-Produkte zum Start stammten von Hitachi Energy, LG Energy Solution und Tesla; qualifizierte CDUs kamen von LG Electronics, LiquidStack und Vertiv.

Nvidias Blog ist eindeutig über die Grenzen des Badges. Das Bestehen der Qualifizierung "ersetzt keine standortbezogene Ingenieursarbeit und impliziert keine standortbezogene Stabilität", heißt es. Für CDUs verwendet der Weg einen Self-Qualification-Suite, um festzustellen, ob ein bestimmtes Angebot die geltenden funktionalen Anforderungen erfüllt. Bauherren müssen weiterhin herausfinden, wie eine qualifizierte Einheit zu ihrem Standort, ihrer Konfiguration und ihren Betriebsanforderungen passt.

Acht Tage später, am 29. September, kündigte Trane Technologies die LiquidStack CDU 2.X-Plattform auf der Yotta 2026 in Swords, Irland, an. HPCwire berichtet, dass die Einheit architekturunabhängig ist, mit einer Durchflussleistung von bis zu 3.750 Litern pro Minute bei 3,5 bar, und entwickelt ist, um aktuelle GPU-Plattformen plus Headroom für nächste Generationen einschließlich Nvidia Vera Rubin zu unterstützen.

„Betreiber benötigen Kühlinfrastruktur, die sich anpassen kann, wenn GPU-Plattformen und Rackdichten sich entwickeln", sagte Scott Smith, General Manager von LiquidStack bei Trane Technologies, in der Ankündigung. „CDU 2.X kombiniert die Leistung und Flexibilität, die Kunden heute brauchen, mit dem Headroom, um sich auf das vorzubereiten, was kommt."

Die gleiche Ankündigung zitiert Anlagen-Einlauftemperaturen bis zu 45C und eine Ultra-Low-Harmonics-VFD-Architektur, die Harmonische Verzerrung an der Quelle reduzieren soll. End-of-Row- und Rack-naher Einsatz werden beide unterstützt.

Installation ist der einfache Teil

Kevin Roof, Director of Offer and Capture Management bei LiquidStack, argumentierte in Data Center POST, dass die Branche die falsche Frage stellt. Die Installation bekommt Aufmerksamkeit, schrieb er, aber der Betrieb entscheidet, ob die Leistung ein Jahrzehnt hält. Installation wird in Wochen gemessen; Betrieb wird in Jahren gemessen.

Seine spezifische Warnung betrifft den Blast Radius. Die Bewertung der Resilienz durch das Zählen redundanter CDUs verfehlt, wie ein Ausfall sich über das gesamte Flüssigkeitsverteilungs- und Steuerungsnetzwerk ausbreitet. Er weist auch auf Performance-Drift hin und argumentiert, dass Echtzeit-Betriebsdaten es Betreibern ermöglichen, Degradation zu erkennen, bevor ein Komponente tatsächlich ausfällt. In dieser Lesart ist eine Kühlschleife ein vernetztes System, in dem eine Änderung der Rack-Konfiguration, der Accelerator oder der Steuerungsstrategie das Verhalten an anderer Stelle der Schleife verändern kann.

Fertigungstoleranzen füttern dasselbe Problem. XEBEC Deburring Technologies merkt an, dass Coldplates mit komplexen internen Kanälen, sich kreuzenden Bohrungen, gefrästen Kanälen und Dichtflächen gebaut werden, und dass das Fräsen Grate hinterlässt. Lose Partikel können Kontaminationsbedenken verursachen; Grate in der Nähe von Dichtbereichen erschweren die Montage. Der Pitch des Unternehmens ist, dass Entgratung in den Fräsprozess gehört und nicht als manuelles Nachgedanken, was ein Lieferantenargument ist, aber auf eine reale Inspektionslast hinweist.

Flüssigkeiten und die Fragen, die Käufer tatsächlich stellen

Telecomates Direct-to-Chip-FAQ, gerichtet an Netzwerk-Ingenieure und Einkaufsteams, behandelt, ob Coldplate-Module mit nicht leitfähigen Dielektrikumsflüssigkeiten laufen können. Die Antwort ist ja, mit Einschränkungen: Dielektrika entfernen das Kurzschlussrisiko von wasserbasierten Schleifen, haben aber im Allgemeinen niedrigere Wärmeleitfähigkeit und höhere Viskosität als Glykol-Wasser-Gemische, sodass Durchflussraten, Pumpengröße und Mikrokanalgeometrie entsprechend spezifiziert werden müssen. Die meisten großen DTC-Hersteller veröffentlichen laut FAQ genehmigte Flüssigkeitslisten und Materialkompatibilitätsmatrizen für Kupfer, Aluminium, Edelstahl, EPDM und Fluorpolymers-Dichtungen.

Es zieht auch eine Linie zwischen einphasiger und zweiphasiger Dielektrikum-DTC. Einphasig hält die Flüssigkeit flüssig und verlässt sich auf den spezifischen Wärmehub; zweiphasig lässt sie auf der Chipoberfläche sieden und kondensiert in einem entfernten Wärmeübertrager, wobei Wärme als latente Energie transportiert wird. Für Telekommunikations-Linienkarten und 1U-2U-Switches nennt das FAQ einphasig die pragmatischere Wahl und reserviert zweiphasig für sehr hohe TDP-ASICs über etwa 500 W pro Paket.

Dies ist eine Anleitung aus einem technischen FAQ, kein Benchmark, und dieselbe Einschränkung gilt für die Auswahl-Leitfäden. Das Betriebsumbild ist fester als das Marketing.

Genau dieses Bild ist der Grund, warum die Offenlegung von OpenAI über ein Chip-Programm hinaus wichtig ist. Die Wahl von Turin-Hosts und das Betreiben von Jalapeno daneben ist eine Compute-Entscheidung, aber jedes dieser Racks landet in einer Anlage, die die Wärme abführen muss. Zwischen der 8-10 kW-Luftgrenze, die Wanma beschreibt, und der 250 kW-Schwelle, die CoolIT zitiert, wird der Raum für hybride Designs schnell enger. Lieferanten reagieren mit Qualifizierungsprogrammen, höheren Durchfluss-CDUs und Flüssigkeitskompatibilitätslisten. Die Betreiber hingegen werden darauf hingewiesen, dass der schwierige Teil beginnt, nachdem die Kisten ausgepackt sind.