Nvidia: Gewaltige Kostenschätzung für KI-Kühlsysteme
Nvidia bietet unter anderem auch fertige KI-Server an - und das Kühlsystem von ebendiesen ist alles andere als günstig. Um die Rechenchips und Switches zu kühlen, werden angeblich Komponenten für rund 90.000 US-Dollar verbaut.
Durch den noch immer anhaltenden KI-Boom scheffelt Nvidia derzeit Geld wie Heu. Zu den Verkaufsschlagern zählen dabei nicht nur einzelne KI-Beschleuniger, sondern auch fertige Serversysteme. Ein solches bietet das Unternehmen unter anderem in Form des GB300 NVL72 an. Bei diesem handelt es sich um ein fertiges Server-Rack mit 72 Blackwell-Ultra-GPUs und 36 Grace-CPUs. Laut Tweaktown wird pro System ein Kaufpreis zwischen 3,7 und 4 Millionen US-Dollar fällig.
Hoher Verbrauch, teure Kühlung
Der Großteil dieses Preises wird zweifellos für die verbaute Elektronik und Nvidias Gewinnmarge fällig. Aber auch andere Gebiete, wie beispielsweise die Kühlung, schlagen ordentlich zu Buche. Auf X teilte Analyst @Jukanlosreve jüngst eine angeblich von Morgan Stanley Research aufgestellte Berechnung, laut der allein das Kühlsystem rund 90.000 US-Dollar kostet - 40.680 US-Dollar für die Kühlung der Rechenchips und 49.860 US-Dollar für die Kühlung der verbauten Switches. Im Vergleich zum Gesamtpreis des Server-Racks ist das natürlich nur ein kleiner Teil, in absoluten Zahlen aber doch eine gewaltige Summe für eine Wasserkühlung.
Mit Blick auf den Verbrauch des Systems wird die Summe dann aber doch verständlich. Jede der 72 GPUs darf sich bis zu 1.400 W genehmigen. Allein damit kommen schon 100,8 kW zusammen. Zu den 36 verbauten Prozessoren gibt es von Nvidia zwar keine TDP-Angabe, die insgesamt 2.592 ARM-Kerne dürften den Verbrauch aber noch einmal ein gutes Stück hochtreiben. Dass Nvidia einigen Aufwand zur Kühlung des Systems betreibt, ist also durchaus verständlich.
Auch interessant: KI-Cloud made in Germany: Nvidia, Telekom und SAP kooperieren
Glaubt man der Abschätzung von Morgan Stanley, sollen die Gesamtkosten des Kühlsystems in Zukunft sogar noch weiter ansteigen. Für ein kommendes Rack auf Basis der nächsten Generation "Vera Rubin" soll der Preis des Kühlsystems von schätzungsweise 90.540 US-Dollar auf insgesamt 103.590 US-Dollar ansteigen. Besonders stark soll der Anstieg dabei bei der Kühlung der Rechenchips ausfallen - hier wird der Preis angeblich um knapp 18 Prozent ansteigen. Natürlich handelt es sich dabei aber nur um eine Schätzung, Nvidia lässt sich hier nicht in die Karten blicken. Klar ist lediglich, dass die Kühlung derart komplexer Systeme eines großen Aufwands bedarf.
Wie viel hat Ihr Kühlsystem insgesamt gekostet - und was war das teuerste Bauteil? Nutzen Sie die Kommentarfunktion und teilen Sie uns Ihre Meinung mit. Zum Kommentieren müssten Sie auf PCGH.de oder im Extreme-Forum eingeloggt sein. Sollten Sie noch keinen Account haben, könnten Sie über eine Registrierung nachdenken, die viele Vorteile mit sich bringt. Beachten Sie beim Kommentieren aber bitte die gültigen Forenregeln.
Quelle: @Jukanlosreve (X) via Techpowerup
Der Preis haut mich also nicht wirklich aus den Socken.
Wie viel hat Ihr Kühlsystem insgesamt gekostet - und was war das teuerste Bauteil?
CPU 75, GPU 200, Radiatoren 200, Lüfter 60, Rest 150-200 (Pumpe,AGB,Schläuche,Anschlüsse,Flüssigkeit...)
= irgendwas zwischen 700 und 750 Euro.
Viele Teile sind aber schon über 10 Jahre alt und wären heute entsprechend teurer. Da würden dann bestimmt eher 900 bis 1000 € fällig.
Ist schon krank, wie viel Geld in eine Wasserkühlung fließen kann (haha, Wortspiel)