AMD Instinct MI200: Grafik zeigt die Dual-Die-GPU für HPCs
Ein bekannter Twitter-Nutzer hat eine detaillierte Grafik zu AMDs Instinct MI200 veröffentlicht, welche die beiden Compute-Dies der HPC-GPU und ihre verschiedenen Funktionseinheiten sichtbar macht. So kommen in Summe beispielsweise 256 Compute Units mit 16.384 Shader-Einheiten zum Einsatz.
Hardware-Enthusiast Locuza, der auch in unserem Forum aktiv ist, hat eine sehr interessante Grafik zu AMDs Instinct MI200 erstellt. Über die Profi-Grafikkarte hatten wir bereits mehrfach berichtet. Besonders interessant ist, dass CDNA 2 (Codename Aldebaran) auf ein Multi-Chip-Design setzt, ähnlich dem von Ryzen-Prozessoren bekannten Chiplet-Aufbau. Diese Tatsache und weitere Details hat Locuza in seiner Grafik nun ausführlich veranschaulicht.
Demnach kommen 256 Compute Units zum Einsatz - 128 pro Chiplet, um genau zu sein. In Summe ergibt das sage und schreibe 16.384 Shader-Einheiten. Vega 20 bot seinerzeit nur 64 CUs auf. Ende letzten Jahres veröffentlichte AMD dann den Instinct MI 100 (CDNA 1) mit 128 beziehungsweise 120 aktiven Compute Units. Mit der Instinct MI200, die noch dieses Jahr erscheinen soll, würde sich die Anzahl der CUs demnach erneut verdoppeln. Zum Vergleich: Eine Radeon RX 6900 XT, AMDs schnellste Gaming-Grafikkarte, verfügt über 80 CUs mit insgesamt 5.120 Shader-Einheiten.
Radeon RX 7000: Mehrere Dies auch für Gamer?
Bei der Instinct MI200 soll sich die Speicherkapazität kurzerhand vervierfachen - und zwar von 32 auf 128 GiByte. Es komme HBM2e zum Einsatz, dessen Interface in Summe von 4.096 auf 8.192 Bit wächst. Dabei teilt sich der Speicher folgendermaßen auf: Jede GPU verfügt über viermal 16 GiByte mit einer 1024-Bit-Anbindung.
Ebenfalls interessant: LGA-1700 und LGA-1800: Benötigt Alder Lake-S neue CPU-Kühler?
Ob AMD auch bei der kommenden Gaming-Generation, mutmaßlich der Radeon-RX-7000-Serie, auf Multi-Chip-Modules setzt, wird abzuwarten sein. Laut Gerüchteküche könnte zumindest das nächste Flaggschiff mit zwei Compute-Dies aufwarten. Demgegenüber sollen die kleineren Modelle weiterhin einen monolithischen Ansatz verfolgen. Bis zum Release derartiger Grafikkarten könnte allerdings noch einige Zeit vergehen. Verlautbarungen von AMD liegen noch nicht vor und wenn man jüngsten Sichtungen Glauben schenkt, ist nicht einmal die Radeon-RX-6000-Serie vollständig veröffentlicht.
Quelle: Twitter
).
Technologisch war das eine Art periodisches One-Off, denn in den nächsten Jahren wird es hier keine davon ableitbaren Entwickungszugewinne geben, d. h. alles was jetzt an Entwickungsaufwänden betrieben wird, wird explizit für die reguläre GPU-Sparte aufgewendet.
Finanziell wird hier nach aktuellem Stand weniger als eine Milliarde pro Quartal für AMD von den Konsolen abfallen (Tendenz fallend in den nächsten Jahren), so bspw. in 1Q21 schätzungsweise um die 800 - 900 Mio. US$. nVidia hat in dem Quartal alleine mit regulären GPUs bereits 3451 Mio. US$ verdient. Und das Delta kann AMD noch nicht einmal mit seinen regulären GPU-Umsätzen kompensieren (aus dem Segment Computing and Graphics, von dem ein Großteil auf Ryzen's und Chipsätze entfällt).
AMD wird noch eine ganze Weile brauchen, bis sie überhaupt mit ihrem gesamten Umsatz (alle Geschäftsfelder, also CPUs + GPUs) an nVidia heranreichen werden und selbst wenn Xilinx dann im nächsten Jahr mit eingerechnet wird, wird AMD vorerst immer noch nicht nVidia's Umsatzvolumen erreichen, weil Xilinx dafür nicht groß genug ist.
Zu Intel: Preisnachlässe wird AMD sicherlich versuchen zu vermeiden, denn die haben ja schließlich nicht umsonst alle Preise angezogen, so auch beim Epyc. Das Ziel ist hier eine höhere Marge, da wird man freiwillig nicht wieder zurückrudern wollen, denn den Analysten hat man eigentlich eine gegenteilige Entwicklung versprochen. (Ob der Druck durch Intel am Ende so groß wird, dass AMD preistechnisch doch einlenken muss, wird man abwarten müssen. Ich würde erst mal erwarten, dass man vor (und inkl.) Genoa keine größeren Anpassungen beobachten wird.)
Sapphire Rapids SP wird sicherlich interessant zu beobachten sein, denn absehbar wird Intel damit einigen Boden gutmachen können (auch unabhängig von Vier- oder gar Acht-Wege-Systemen).
TSMC ist sicherlich ein "indirektes Risiko" (wenn man das so bezeichnen will), denn AMD hat hier im Wesentlichen von den Fertigungsproblemen beim Hauptkonkurrenten profitiert. Wenn Intel in den nächsten 18 - 36 Monaten einen fertigungstechnischen Gleichstand erreichen sollte, wird es ungemein schwieriger für AMD weiter zu wachsen *), da dann ein wesentlicher Produktvorteil entfällt und nur noch rein designtechnische/architektonsiche Aspkete zur Differenzierung verbleiben und hier hat Intel nie wirklich den Anschluss verloren.
Eine weitere noch unbeantwortete Frage wird Intel's OneAPI sein, dass einen zentralen Punkt in deren Strategie darstellt. Das Gesamtkonstrukt ist zwar offen ausgelegt, dennoch wird man absehbar mit Intel-Hardware die vermutlich beste Usability/Experience haben und wenn die das einigermaßen auf die Straße bekommen, dürfte das für die Konkurrenten sicherlich weitere Umsatzverluste bedeuten, wobei die dann vermutlich eher AMD treffen werden, da nVidia mit seiner Hard/Software bisher weitaus besser im Markt etabliert ist als AMD.
*) Und schwieriger wird es per se, da Intel ja schon bekanntermaßen mit modernen Nodes von TSMC überbrücken/unterstützen wird und die (im Gegensatz zu AMD) auch das Geld haben hier im Zweifelsfall tiefer in die eigene Tasche zu greifen, wenn sie es denn für notwendig erachten (sprich, wenn es ihrem gesamtwirtschaftlichem Fortkommen zum Vorteil gereicht).
Das eigentliche Risiko ist anders verortet: Über 50 Prozent dieser guten Position sind nicht unter Kontrolle AMDs, sondern schlicht TSMC zu verdanken. Wenn die ihren Vorsprung auf Intel einbüßen oder die Konkurrenz einfach vergleichbare Prozesse bucht (Stichwort: Intel +N5), kann AMD nur hilflos zusehen, aber nichts aus eigener Kraft unternehmen. Und dass sie die Gewinnspanne TSMCs mitbezahlen müssen, schränkt auch ihre Möglichkeiten ein, den aktuellen Markterfolg in mehr Entwicklung umzumünzen. Dabei hat man durchaus noch Lücken im Portfolio (kein eigenständiges Einsteigerprodukt, unterhalb der gehobenen Mittelklasse derzeit nur APUs mit GPU-Fokus, Defizite bei der Vernetzung vieler Chips zu komplexen Nodes für HPC,...)
Da die Konkurrenz aber nicht "über Nacht" mit haushoch überlegenen Produken auf den Markt kommen wird, wird sich AMDs Wachstum sicherlich noch ein wenig fortsetzen. *) Wie es dann in den nächsten Jahren weitergehen wird, wird man abwarten müssen, aber das Marktvolumen sollte dann so groß geworden, sodass man sich um die, so wie eine gesunde Konkurrenzsituation im Markt in den nächsten Jahren vermutlich keine Sorgen machen muss.
*) Die Entwicklungskurve wird vielleicht in den nächsten 24 - 36 Monaten abflachen und AMD muss möglicherweise mit einem aggressiven Pricing das Momentum aufrecht erhalten, aber das wird man abwarten müssen und hängt zu einem wesentlichem Teil auch von der Konkurrenz ab.
AMDs alte VLIW GPUs hatten einen mächtigen FP32 und selbst FP64-Durchsatz und eine überlegene Local Data Share-Implementierung.
Für VLIW-Maschinen ist es nicht leicht gute Compiler zu schreiben und die Speicherhierarchie mit unterschiedlichen Adressräumen und schwachen Caches war noch nicht elegant gelöst, aber selbst damals hätte AMD deutlich mehr mit guter Software erreichen können und nicht nur zusehen, wie Nvidia ihr Imperium mit CUDA hochzieht.
Mit GCN hatte man dann für Jahre die eindeutig überlegene Compute-Architektur, welche nahezu zahnlos blieb, dank nach wie vor sehr schwachem Software-Ecosystem.
Erst seit ROCm 4.0 in 2020 sieht es so aus, als hätte AMD eine brauchbare Basis geschaffen und da muss sich nach wie vor noch einiges tun.
Ich bin besonders wegen Intel besorgt um die Zukunft, denn nur dank deren Versagen hat AMD so eine relativ große Erfolgswelle reiten können.
Langsam bringt aber Intel die Kanonen wieder in Stellung und auch neue Konkurrenz taucht auf.
Wenn AMD es nicht schafft zügig alles Notwendige aufzustellen, könnten sie dank starker Konkurrenz wieder an mangelnden Ressourcen und Wachstum leiden.
Nur ist es dennoch erst mal nicht mehr als ein Anfang. Bisher waren sie faktisch sehr glücklos (bzw. völlig irrelevant) mit ihren Beschleunigern und selbst Intel war hier mit seinem Xeon Phi in der Vergangenheit (vorerst) deutlich erfolgreicher unterwegs. Hier wird man abwarten müssen, wie sich das mittelfristig entwickelt, denn die Kokurrenz dreht ja nicht nur Däumchen.
Mittelfristig werden die sicherlich an Bedeutung in diesem Markt gewinnen, die Frage ist nur, wie weit sie hierbei im relativen Vergleich kommen werden. *) nVidia wird sich das Zepter sicherlich nicht aus der Hand nehmen lassen wollen und für Intel ist zweifellos nVidia der Konkurrent und nicht etwa AMD. Wie du schon angerissen hast, mangelte es bei AMD schon immer am Softwarestack und hier haben sie noch immens viel Nachholbedarf ggü. nVidia und auch Intel. Man darf auf jeden Fall gespannt sein, wie sich das Rad weiterdrehen wird, was nVidia's Hopper wird und ob Xe-HPC tatsächlich so groß, wie von Intel erhofft werden wird und wie sich dazu im Vergleich die MI200 schlagen wird.
Einzige Eischränkung meinerseits: "AMD hat gute Hardware und das seit Jahrzehnten" Nein, definitiv nicht in dieser uneingeschränkten Formulierungsweise.
Angefangen haben mit dem simplen 1:1-Kopieren von Intel-Designs und bspw. im letzten Jahrzehnt hatten sie auch mal designtechnisch einen deutlichen Tiefstand zu verzeichnen mit dem Opteron, der Intel nichts mehr entgegenzusetzen hatte und dem bestenfalls kreativen Bulldozer, der aber schon gleich zum Erscheinen nur mit Mühe mit aktuellen Intel-Designs mithalten konnte. Erst mit Zen haben hier den Auf/Umschwung hinbekommen, was aber auch Jahre benötigte. Wie auch bei den anderen Firmen ist auch hier nicht alles Gold was glänzt.
*) Insgesamt wird Intel mittelfristig vermutlich weiterhin mehr Systeme ausstatten (im regulären Datacenter per se, da sie über deutlich mehr Kapazitäten verfügen), in dem Kontext dürfte aber auch interessant sein, was die ARM-Konkurrenz machen wird, die mittlerweile CPU-seitig augenscheinlich schon auf x86 aufgeschlossen hat und ebenso ein größeres Stück vom Kuchen abhaben will.