AMD MI250(X): Aldebaran als MCM mit bis zu 47,9 Teraflop/s und 560 Watt TDP
AMD hat die Instinct MI250(X) vorgestellt. Die beiden HPC-Beschleuniger mit dem Codenamen Aldebaran legen auf dem Papier eine hohe Rechenleistung vor, müssen aber auch aufwendig gekühlt werden.
AMD hat Neuigkeiten zu seinem Server-Geschäft präsentiert und Teil davon war auch die MI200-Reihe auf Basis der CDNA2-Architektur, wo das Hauptaugenmerk auf der Instinct MI250X liegt. Für die verspricht AMD eine um das 4,9-fache bessere Leistung als Konkurrenzprodukte unter FP64-Lasten. Aber auch in anderen Szenarien wie etwa mit halber Präzision bei KI-Aufgaben soll das Spitzenmodell, die Instinct MI250X, überzeugen. AMD bietet 3 Karten vom Typ "Aldebaran" an, die Instinct MI210, die Instinct MI250 und besagt Instinct MI250X. Für die kleinste Karte fehlen noch die technischen Daten.
Technisch setzt die Instinct MI250(X) auf zwei Compute-Chips (MCM, Multi Chip Module) mit je bis zu 1,7 GHz Takt und acht Stapel HBM2E-Speicher mit insgesamt 128 GiByte Kapazität bei 1,6 GHz. AMD nennt 47,9 Teraflop/s Rechenleistung bei 32 und 64 Bit sowie 308 Teraflop/s bei 16 Bit sowie 3,2 TB/s Speichertransferleistung. Hauptunterschied der Mi250 und MI250X sind die Ausführungseinheiten mit 13.312 FP32-Einheiten (202 CU) bei der MI250 und 14.080 Einheiten (220 CU) bei der MI250X, was am Ende rund 2,5 Teraflop/s Rechenleistung ausmacht. Außerdem unterscheiden sich die beiden Modelle in dem Umstand, dass das Non-X-Modell sechs statt acht Infinity Links hat und keine Speicherkohärenz bietet.
| Models | Compute Units | Stream Processors | FP64 | FP32 Vector (Peak) | FP64 | FP32 Matrix (Peak) | FP16 | bf16(Peak) | INT4 | INT8(Peak) | HBM2eECCMemory | Memory Bandwidth | Form Factor |
|---|---|---|---|---|---|---|---|---|---|
| AMD Instinct™ MI250x | 220 | 14,080 | Up to 47.9 TF | Up to 95.7 TF | Up to 383.0 TF | Up to 383.0 TOPS | 128GB | 3.2 TB/sec | OCP Accelerator Module |
| AMD Instinct™ MI250 | 208 | 13,312 | Up to 45.3 TF | Up to 90.5 TF | Up to 362.1 TF | Up to 362.1 TOPS | 128GB | 3.2 TB/sec | OCP Accelerator Module |
Quelle: AMD
AMD MI250(X): Aldebaran als MCM mit bis zu 47,9 Teraflop/s und 560 Watt TDP (1)
Die hohe Rohleistung der in 6 nm gefertigten Chips mit 58 Milliarden Transistoren hat seinen Preis in Form einer TDP von 560 Watt (flüssig gekühlt) bzw. 500 Watt (luftgekühlt). Angeboten werden die Karten im Formfaktor OAM (OCP Accelerator Module). Das kleine Modell, MI210, wird als PCIE vertrieben. Der direkte Konkurrent ist der A100 von Nvidia, der als SXM vertrieben wird und auf dem Papier deutlich weniger Leistung bietet, aber eben der kleinere Chip ist (7.680 FP32-Shader), dem eine TDP von 400 Watt reicht. Nvidia nennt für die Karte 46,1 Teraflop/s Rechenleistung bei 32 und 64 Bit sowie 184,6/92,3 Teraflop/s bei FP16/BF16. Was am Ende effizienter zum Ergebnis kommt, müssen unabhängige Tests zeigen und wird auch aufgabenabhängig sein. AMD rechnet je nach Kalkulation doppelte bzw. vierfache Leistung bei 87 Prozent mehr Leistungsaufnahme vor. AMD Instinct MI250(X) ist ab sofort über den Partner HP verfügbar. Die Steckkarte MI210 soll in Kürze erscheinen.
Quelle: AMD
Vor allem muss man ja auch sehen, dass Hopper quasi ein Jahr nach der Mi200 kommt, weil die wird ja schon seit dem Sommer an Supercomputer ausgeliefert.
Und dann ist halt auch die Frage - was ich in meinem obigen Post schon erläutert habe - wie ist die Ausrichtung von Hopper? AMD zielt ja sehr auf das HPC Segment ab und Nvidia geht mehr Richtung KI. Von daher ist zu bezweifeln, dass die AMD bei der FP64/32 Rechenleistung übertreffen werden. Interessant ist dann auch wie intel sich da aufstellen wird. Bei der FP64/32 Leistung kommen sie ja laut Leaks auf AMD Niveau und für ein dreiviertel Jahr später ist das dann nicht unbedingt etwas weltbewegendes. Aber ich schätze mal ihr Augenmerk wird da auch eher auf KI legen und in dem Bereich wird es dann mit Xilinx noch hochinteressant werden, da FPGAs GPUs in dem Bereich überlegen sind.
Daher schätze ich mal, dass AMD den Fokus bei den GPUs vermutlich weiter eher auf den HPC Bereich legen wird und mit Xilinx dann eher die KI Bereiche angreifen wird.
All in all wird es die nächsten Jahre aufjedenfall noch sehr spannend werden
Und FP32/64 wo AMD deutlich überlegen ist, interessiert dich auch mal wieder nicht...
Wie oben schon angemerkt, die Eierlegendewollmilchsau gibt es in dem Bereich aktuell nicht und die Hersteller legen den Fokus offensichtlich anders.
Zudem hat AMD auch den Vorteil der Infinity Fabric, den du mal wieder völlig unterschlägst.
[Ins Forum, um diesen Inhalt zu sehen]
Vor allem gegenüber Nvidia ist dies ein enormer Vorteil, da sie als einziger von den dreien nicht CPU+GPU anbieten und die Vorteile sind nicht von der Hand zu weisen.
Bezüglich der Fertigung, auch wenn AMD die 3nm erst später nutzt wo ist das Problem? Offensichtlich können sie mit 6nm schon eine sehr gute Lösung bieten und es sind ja auch immer die Stückzahlen entscheidend. Wenn man mit einem älteren Prozess deutlich mehr Wafer bekommt, ist es durchaus eine Überlegung wert diesen zu nutzen. Hat Nvidia mit Samsung 8nm doch auch gemacht und das war alles andere wie ein Fehler.
Niemand weiß wie nvidia ihren Fokus legt, alle Kochen nur mit Wasser und über ungelegte Eier, über die es keine Infos gibt so wild zu spekulieren...
Zumal AMD aufgrund der CPU Geschichte in dem Bereich ja auch deutlich mehr Erfahrungen vorzuweisen hat.
Und bezüglich der Fertigung, auch wenn beide bei TSMC fertigen, kann es trotzdem gut sein, dass nvidia dies erstmal nicht nutzen kann/darf. Denn wenn dies z.B. in einer Entwicklungskoopertation entstanden ist, kann man das nämlich schon vertraglich ausschließen, dass die anderen dies erstmal nicht nutzen dürfen. Aber hierzu wissen wir nichts.
Und wenn Nvidia das für sich erst für die übernächste Generation so entschlossen hat, ist das halt so. Kann auch genauso gut sein, dass sie sich damit vollkommen verkalkuliert haben. Vor allem wenn man sich anschaut, dass man aktuell von der Leistung her gleichauf ist, kann das durchaus sein, dass man im High End Bereich dann nichts entgegenzusetzen hat.