AMD kontert Nvidia: Instinct MI300 soll Upgrade auf HBM3e-Speicher erhalten
AMD plant seinen riesigen HPC-Beschleunigern Instinct MI300X und Instinct MI300A ein Upgrade auf den neuen HBM3e-Speicher zu spendieren und reagiert damit auf Nvidia H200 ("Hopper"), der ebenfalls auf den schnellen Speicherstandard setzt.
AMD kontert Nvidia im KI-Wettrüsten und spendiert seinen Compute-Beschleunigern der Serie Instinct MI300X und Instinct MI300A sowie der darauf basierenden riesigen Instinct MI300X Platform voraussichtlich ein Upgrade auf den neuen HBM3e-Speicherstandard. Damit reagiert AMD bereits auf Nvidias H200, der seinerseits auf den schnellen Speicherstandard mit 1,2 TB/s setzt.
AMD arbeitet an Derivaten von Instinct MI300 mit HBM3e
Wie Mark Papermaster, seines Zeichens Chief Technical Officer ("CTO") von AMD, gegenüber der Website Seeking Alpha erklärt hat, habe das Unternehmen seine Roadmap rund um die Profi-Beschleuniger der MI300-Familie angepasst und plane dabei mit "Derivaten" seiner Instinct-Beschleuniger mit HBM3e-Speicherstandard sowie möglicherweise mit bis zu 12 Speicherstapeln ("Hi-Stacks").
Wir sind nicht untätig. Wir haben einige Anpassungen vorgenommen, um unsere Roadmap mit den beiden Speicherkonfigurationen rund um die MI300-Familie, den Derivaten von MI300, der nächsten Generation, beschleunigen zu können. Wir haben also aktuell 8-Hi-Stacks.
Wir haben die Architektur für 12-Hi-Stacks entwickelt. Wir liefern mit MI300 bereits HBM3-Speicher aus. Wir haben die Architektur aber auch für den HBM3e-Speicherstandard entwickelt.
AMD habe seine KI- und Compute-Beschleuniger konzeptionell somit bereits von Anfang an sowohl für HBM3 als auch für HBM3e ausgelegt und könne daher entsprechend reagieren. Weitere Details nannte Mark Papermaster nicht.
AMD geht mit den Instinct MI300 "all in" im KI-Wettrüsten
AMDs aktuelle Generation der HPC- und KI-Beschleuniger setzt sich derzeit aus zwei Produkten zusammen. Während die Instinct MI300X einen klassischen Beschleuniger darstellt, verbirgt sich hinter Instinct MI300A einer riesigen Enterprise-APU, welche eine CPU mit 24 Zen-4-Prozessorkernen, bestehend aus vier CCDs, 128 GiByte schnellen HBM3 und insgesamt 228 Compute Units miteinander vereint.
Quelle: AMD
Quelle: AMD
Die Instinct MI300X ist noch einmal besser ausgestattet, wenngleich der klassische Beschleuniger die 24 Zen-4-Prozessorkerne missen lässt und seinerseits stattdessen auf auschließlich insgesamt 304 Compute Units ("CUs") auf Basis von CDNA 3 sowie 192 GiByte HBM3-Speicher setzt, welcher über 8.192-Bit angebunden ist und einen hohen Speichertakt von 5,2 GHz bietet. Die in vielerlei Hinsicht beeindruckenden technischen Spezifikationen der beiden KI-Beschleuniger lesen sich wie folgt.
Quelle: AMD
Quelle: AMD
Wie aus den Folien hervorgeht, kombiniert AMD sein bekanntes 2,5D-Packaging mit einem zusätzlichen 3D-Stacking, wie es beispielsweise auch für den 3D V-Cache der Ryzen-Prozessoren zum Einsatz kommt. Der Hersteller spricht deshalb jetzt von einem 3,5D-Stacking, welches für beide Instinct MI300 zum Einsatz kommt.
| AMD Instinct MI300X | AMD Instinct MI300A | |
|---|---|---|
| Architekturen | CDNA 3 | Zen 4 CDNA 3 |
| Prozessorkerne | - | 24 |
| Shadereinheiten | 19.456 | 14.592 |
| Compute Units | 304 | 228 |
| Speicher | 192 GiByte | 128 GiByte |
| Speichertyp | HBM3 ECC | HBM3 ECC |
| Speichertakt | 5,2 GHz | 5,2 GHz |
| Speicherbus | 8.192-Bit | 8.192-Bit |
| Bandbreite | 5,3 TByte/s | 5,3 TByte/s |
| FP16-Performance | 1.300 TFLOPS | 980 TFLOPS |
| FP32-Performance | 163 TFLOPS | 123 TFLOPS |
| FP64-Performance | 82 TFLOPS | 61 TFLOPS |
| TPD | 750 Watt | 550 Watt |
Die potenziellen neuen Derivate der Instinct MI300 könnten im Vollausbau theoretisch auf bis zu 288 GiByte HBM3e setzen, wenngleich eine etwas geringere Kapazität in der bisherigen Größenordnung deutlich wahrscheinlicher ist.
AMD muss auf Nvidia H200 mit HBM3e reagieren
AMD muss mit seinem Upgrade der MI300-Familie sowie den für das Jahr 2025 erwarteten Instinct MI400 auf Nvidia H200 ("Hopper") reagieren. Der KI-Marktführer rüstet nämlich mit dem H200 und dem H200 Superchip von 80 GiByte HBM2e auf bis zu 141 GiByte HBM3e auf, wie PCGH bereits ausführlich beleuchtet hatte.
Auch für den B100 ("Blackwell"), benannt nach dem US-amerikanischen Mathematiker David Harold Blackwell, verspricht Nvidia einmal mehr einen schier gigantischen Leistungssprung, der dann spätestens im kommenden Jahr erfolgen soll. AMD veröffentlicht in diesem Zeitraum Instinct MI400, wenn alles nach Plan läuft.
Das Wettrennen im weltweiten KI-Wettstreit bleibt weiterhin spannend und AMD und Nvidia übertreffen sich dabei gegenseitig mit immer neuen mit Superlativen.
Ihre Meinung ist gefragt!
Wie stehen Sie zu diesem Thema? Die PCGH-Redaktion freut sich über Ihre fundierte Meinung in den Kommentaren zu dieser Meldung. Um zu kommentieren, müssen Sie auf PCGH.de oder im Extreme-Forum eingeloggt sein. Sollten Sie bisher noch keinen Account haben, könnten Sie sich hier unverbindlich registrieren. Beachten Sie beim Kommentieren aber bitte die geltenden Forenregeln.
Quelle: Mark Papermaster (AMD) via Seeking Alpha
Zudem ist Nvidia nicht in der Lage das Angebot zu decken und lange Lieferzeiten können hier für AMD und Intel potentielle Käufer zutreiben, denn garnicht arbeiten ist immernoch schlechter als vergleichsweise unproduktiver zu arbeiten.
Nur ob es AMD was bringt, bei NV´s Vormachtstellung steht auf einem anderen Blatt Papier ...
bzgl. :
[Ins Forum, um diesen Inhalt zu sehen]