HBM über der GPU: IMEC zeigt Wege gegen Überhitzung

Im Endkundensegment ist HBM-Speicher zwar zumindest vorerst kein Thema mehr, im Datacenter ist die Technik aber etablierter Standard. Aktuell werden die Speicherchips neben der GPU auf einem gemeinsamen Interposer platziert. Das hat aber mehrere Nachteile: Der Flächenbedarf steigt, der Interposer ist kostspielig und die Anbindung nicht optimal. Besser wäre es, wenn man die Speicherchips direkt auf die GPU setzen könnte. Dadurch wären auch die Leitungslängen kürzer - und damit die Latenzen.

Temperatur hoch - und wieder runter

All diesen Vorteilen steht allerdings ein massiver Nachteil gegenüber: die Hitzeentwicklung. HBM-Speicher auf der GPU würde die ohnehin hohe Leistungsaufnahme der Rechenchips noch weiter erhöhen. Gleichzeitig würde sich auch der thermische Widerstand zur Energieableitung verschlechtern. Das Forschungszentrum IMEC hat deshalb Simulationen angefertigt und untersucht, wie man eine Überhitzung vermeiden könnte.

Quelle: IMEC Aktuell wird HBM-Speicher noch neben der GPU verbaut (links). Eine direkte Stapelung (rechts) könnte aber Vorteile bieten. Dafür wurde eine GPU mit 32 × 20 mm² und einem Verbrauch von 414 Watt simuliert, auf der sich vier HBM-Stacks mit je 11 × 11 mm² und einem Verbrauch von 40 Watt befinden. Zusammen mit einer simulierten Wasserkühlung kommt der normale Aufbau im Betrieb auf eine Maximaltemperatur von 69,1 °C, während mit HBM auf der GPU untaugliche 141,7 °C errechnet wurden. Das gilt aber nur, wenn der aktuelle HBM-Aufbau verwendet wird. Laut der IMEC könnte der Basischip entfallen, man könnte die Lücken zwischen den Chips mit gut leitendem Silizium auffüllen und die oberste Speicherschicht ausdünnen. Allein dadurch lässt sich die Temperatur auf 120 °C senken.

Der nächste Schritt dürfte hingegen kontrovers sein: Die IMEC hat die angenommene Taktfrequenz der GPU halbiert. Das soll bei gleichbleibender Spannung den Verbrauch des Chips auf 300 Watt senken und aufgrund des speicherlimitierten KI-Trainings "nur" 28 Prozent Leistung kosten. So lässt sich die Temperatur zwar auf 99,2 °C reduzieren, weder AMD noch Nvidia dürften aber einen derartigen Schritt gehen - zumal man die Spannung in so einem Szenario natürlich deutlich heruntersetzen würde.

Quelle: IMEC Wärmesimulation der IMEC. Zu beachten ist die geänderte Farbskalierung: Liegt der Speicher neben der GPU (links), entspricht Rot nur 70 °C. Wird beides gestapelt (rechts), dann entspricht derselbe Farbton 150 °C. Realistischer sind hingegen die beiden weiteren Lösungen, die die IMEC vorschlägt. Demnach könnte die Wärmeableitung der GPU mit weiteren Siliziumpfaden optimiert werden, um die Temperatur um weitere 11,8 Kelvin abzusenken. Eine gleichzeitige Kühlung der Unterseite des Mainboards soll hingegen eine weitere Reduktion um 16,6 Kelvin möglich machen. Mit allen Maßnahmen gleichzeitig würde die Maximaltemperatur damit auf 70,8°C sinken. Und auch mit der originalen GPU-Frequenz wären es noch vermutlich knapp vertretbare 91,6 °C.

Quelle: IMEC Die von der IMEC untersuchten Maßnahmen und ihr Einfluss.

Auch spannend: Speicherkrise treibt PC-Preise: Was so dramatisch ist und was wir bei den PCGH-PCs tun

Sofern die Simulation der IMEC die Realität einigermaßen nahe abbildet, wäre das Stapeln von HBM-Speicher direkt über der GPU also schon heute möglich, sofern man den Aufwand dafür in Kauf nimmt. Falls das tatsächlich der Fall ist, dürfte es bis zum Erscheinen entsprechender Produkte wohl nicht allzu lange dauern. Schließlich sind die Margen im KI-Markt derzeit hoch, und die Unternehmen versuchen alles, um aus ihren Systemen noch etwas mehr Leistung herauszupressen.

Wird HBM-Speicher noch einmal den Sprung ins Endkundensegment schaffen? Nutzen Sie die Kommentarfunktion und teilen Sie uns Ihre Meinung mit. Zum Kommentieren müssten Sie auf PCGH.de oder im Extreme-Forum eingeloggt sein. Sollten Sie noch keinen Account haben, könnten Sie über eine Registrierung nachdenken, die viele Vorteile mit sich bringt. Beachten Sie beim Kommentieren aber bitte die gültigen Forenregeln.

Quelle: IMEC (IEDM 2025)

Artikel teilen

HBM über der GPU: IMEC zeigt Wege gegen Überhitzung In Zukunft könnte HBM direkt auf GPUs montiert werden, um Platz zu sparen und die Anbindung zu verbessern. Dabei wird aber die Hitzeentwicklung zum Problem. Die IMEC hat nun untersucht, wie man dem begegnen könnte.

Per E-Mail versenden

2