Gewaltig: Stromverbrauch von Nvidias H100-GPUs soll bald einige Länder übertreffen
Der Gesamtverbrauch von Nvidias H100-GPUs soll bis Ende kommenden Jahres höher als der von einigen europäischen Ländern sein. Die Schätzung ist dabei zwar nur sehr grob, die Größenordnung dürfte aber stimmen.
Der aktuell laufende KI-Hype sorgt insbesondere bei Nvidia für hohe Verkaufszahlen: KI-Beschleuniger wie etwa der H100 werden in immensen Stückzahlen verkauft, sodass die Produktion kaum hinterherkommt. Nachdem die GPUs dabei vermutlich überwiegend unter hoher oder sogar Volllast laufen, kommt so ein gigantischer Stromverbrauch zusammen.
Hohe Stückzahlen, hoher Verbrauch
Paul Churnock, der als leitender Ingenieur Microsofts Rechenzentren verwaltet, schätzt beispielsweise, dass alle H100-GPUs zusammen inzwischen so viel Strom wie eine amerikanische Großstadt brauchen. Dabei geht er davon aus, dass die KI-Beschleuniger in 61 Prozent der Zeit mit Volllast laufen und damit jeweils so viel Energie wie ein durchschnittlicher US-Haushalt benötigen. Zusammen mit den für 2024 gemachten Stückzahl-Prognosen - Nvidia will im kommenden Jahr 1,5 bis 2 Millionen Stück verkaufen - soll dann die besagte Schätzung entstanden sein.
Die Website Tom's Hardware hat diese Rechnung noch etwas ergänzt. Unter der Annahme, dass bis Ende 2024 insgesamt 3,5 Millionen H100-GPUs im Einsatz sind, käme so ein jährlicher Gesamtverbrauch von rund 13.092 GWh zustande. Die genannten Stückzahlen sind dabei aber natürlich nur eine Schätzung, ebenso wie die Auslastungsrate. Gerade in Rechenzentren dürften sich die Betreiber bemühen, die H100-GPUs deutlich häufiger auszulasten - zumal KI-Anwendungen auch jederzeit länger trainiert werden können. Andererseits muss dabei natürlich nicht immer der volle TDP-Wert anliegen.
Das Ergebnis ist damit reichlich ungenau und zeigt in jedem Fall nur die grobe Größenordnung. Diese ist allerdings gewaltig: Mit knapp über 13 GWh wären die gesammelten H100-GPUs auf Platz 89 der Länder - zwischen Uruguay und Syrien. Mit Blick auf europäische Nationen würden die KI-Beschleuniger damit Litauen, Bosnien und Herzegowina und Moldau überholen und nur knapp hinter Slowenien liegen.
Passend zum Thema: Nvidia H100: 500.000 KI-Beschleuniger pro Quartal reichen nicht aus, um die exorbitante Nachfrage zu decken [Bericht]
Angesichts der immensen Nachfrage nach KI-Hardware von allen Herstellern dürfte der Stromverbrauch der gesamten Branche dabei immer weiter anwachsen. Denn auch wenn sich die Effizienz der genutzten Beschleuniger erhöht, ist der Leistungsbedarf von entsprechenden Anwendungen kaum gedeckelt. Dafür entstehen aber immerhin wissenschaftlich und auch wirtschaftlich interessante Werkzeuge, die in Zukunft die Arbeit erleichtern und die Produktivität steigern können.
Quelle: Tom's Hardware
Wenn man das was die 1000 reichsten des Planeten zusammengeraft haben zusammen nimmt scheint es nicht nur auf den ersten Blick auch wirklich sehr viel Geld zu sein. Ich könnte deren Gesamtvermögen noch nicht mal mega grob pi mal Daumen schätzen.
Aber gehen wir einfach mal von ca. 5 Milliarden Menschen auf unserem Planeten aus die aufgrund ihres Einkommens als Arm eingestuft werden. Auf 5 Milliarden verteilt ist aber selbst das größte Gesamtvermögen nicht viel mehr wie der kurzer Tropfen auf den berühmten heissen Stein und es würde wohl auch genauso schnell verdampft sein.
(Jeder, der das anders sieht, möge mir bitte einen "Tropfen auf den heißen Stein" überweisen.