AMD Radeon Instinct MI100: Details zu Arcturus-GPU durchgesickert
Es gilt als offenes Geheimnis, dass AMD weitere Radeon-Instinct-Karten für HPCs in der Pipeline hat. BIOS-Dateien liefern nun Hinweise zu einer Radeon Instinct MI100 aus der Arcturus-Linie. "Big Navi" verbirgt sich dahinter allerdings nicht.
Der Name "Arcturus" spukt schon seit einigen Monaten durchs Internet. Einst wurde Arcturus als Navi-Nachfolger beziehungsweise Abkömmling gehandelt, Stichwort "Big Navi". Mittlerweile gilt es als gesichert, dass sich dahinter verschiedene Profi-Grafikkarten verbergen, mutmaßlich als weiterer Vega-Ableger. Dazu gehört offenkundig auch eine Radeon Instinct MI100, wie nun aus BIOS-Dateien hervorgeht.
Den Zahlen zufolge verfügt die MI100 über 32 GiByte HBM2-Speicher, der mit 1.000 MHz taktet. Bei einem unterstellten Interface von 4.096 Bit landet man bei einer Speicherbandbreite von einem Terabyte pro Sekunde. Außerdem werden sowohl Speicher von Samsung (KHA884901X) als auch Hynix (H5VR64ESA8H) unterstützt. Die Zeile "MI100 D34303 A1 XL 200W 32GB 1000m" lässt auf eine TDP von 200 Watt schließen, was überraschend wenig wäre, vor allem im Hinblick auf die vermuteten (wenngleich nicht gesetzten) 128 Compute-Units mit 8.192 Shader-Einheiten.
Nicht "Big Navi"
Zum Vergleich: Eine Radeon Instinct MI60 (Vega 20) kann sich 300 Watt genehmigen, obwohl sie nur 4.096 Shader-Einheiten in die Waagschale legt. Finale Versionen der HPC-Karte werden vermutlich auch wieder im Bereich von 300 Watt unterwegs sein. Ob AMD mit der Vega-Architektur zusätzliche Effizienzsteigerungen erzielen konnte, bleibt offen. Mit einem GPU-Takt von bis 1.334 MHz operiert die gesichtete MI100 möglicherweise noch nicht am Limit.
Ebenfalls interessant: AMD Financial Analyst Day: Spekulationen über Big Navi?
Abschließend bleibt noch mal festzuhalten, dass Arcturus nicht "Big Navi" ist. Verwechslungsgefahr besteht dennoch. Wenn irgendwo in der Gerüchteküche mal wieder Zahlen zu Shader-Einheiten und Chipfläche auftauchen, wird schnell der Bezug zu "Big Navi" hergestellt, obwohl sämtliche Details fehlen. Gerüchte sollte man folglich mit einer gesunden Portion Skepsis behandeln. Die Radeon Instinct MI100 könnte im März auf AMDs Financial Analyst Day Thema sein - möglicherweise, aber eben auch nicht zwangsläufig, neben "Big Navi".
Quelle: Komachi, Arcturus Linux Patches, Arcturus Linux Patches
Moment als Nachfolger der zu lauten, zu teuren und zu lastaufwendigen Vega 56/64 oder als Nachfolger der V2, die viel zu teuer war und nie wirklich in einem breiten Custommarkt, bzw. Markt generell, ankam?
Allgemein hat AMD hier gar keine Wahl als weiter zu differenzieren, weil sie ansonsten den Anschluss verlieren. Die Anforderungen zwischen regulären GPUs und GPGPUs im Datacenter driften immer weiter auseinander und das kann man nicht mehr sinnvoll mit einem Ein-Design-für-Alles erschlagen; die Zeiten sind vorbei.
Die neuen HPC-Designs werden bspw. bzgl. ML/AI beträchtlich zulegen und derartige Funktionseinheiten in übermäßiger Zahl auf einer Consumer-GPU würde beträchtliche Transistorfläche verschwenden.
Die wesentliche Triebfeder für Tensor Cores v2 auf Turing wahr voraussichtlich eher eine marktstrategische Entscheidung zur Etablierung der eigenen Technik *). nVidia hat derzeit noch einen deutlichen (zeitlichen) Vorteil, den sie sinnvoll auszunutzen versuchen, um die Hardware in Verbindsung mit CUDA und den daran angelehnten ML-Frameworks im Markt zu etablieren, sodass sie auch hier wieder einen kompetetiven Vorteil zu erreichen versuchen.
Ein mitgenommener Nebeneffekt ist natürlich, dass die gestiegene ML-Leistung via Turing auf Titan/Quadro auch die Adaption in der Industrie und Lehre grundsätzlich schneller vorantreibt, aber im Datacenter ist immer noch Volta das primäre Arbeitspferd, das bald durch eine überarbeitete Datacenterarchitektur ersetzt werden wird. Ohne Spezialisierung geht hier nichts mehr und da die Chipfläche immer noch ein beschränkender Faktor ist (und auch bleiben wird), müssen sich die Hersteller sehr gut überlegen, wie sie diese möglichst effizient einsetzen (mit Blick auf den jeweils vorgesehenen Workload).
Abseits dessen kommt auch Marktführer nVidia hier unter Druck durch Fremdhersteller, die über die ML/AI-Schine in den Markt drängen. Spezialisierte Designs wie von Xilinx und bspw. Habana erreichen eine beträchtliche Leistung und drohen im immer noch boomenden ML/AI-Markt nVidia-Karten zu verdrängen, was nVidia mit einem leistungsstärkeren GPGPU-Design zu vermeiden versuchen wird.
Ein geradezu "völlig abgedrehtes" Design ist bspw. die Wafer Scale Engine, ein primär für AI gedachter "Chip", der nahezu die Größe eines Wafers hat und 400.000 Kerne zusammen mit 18 GiB lokalem Speicher auf 46000 mm2 unterbringt. Das Design wird in 16 nm bei TSMC gefertigt und verbraucht um die 15 kW bei voraussichtlich unter 2,5 GHz.
*) Beispielsweise für Consumer gibt es nach wie vor so gut wie keinen sinnvollen Einsatz der Technik und DLSS kann man getrost als Alibi-Funktion verstehen, mit der nVidia den Gamern erklärte, warum sie die zugehörige(n) Technik/Transistoren auf Turing mitbezahlen müssen (insbesondere mit der zusätzlichen Diskussion um vermeintlich höhere Kartenpreise im Nacken). Titel mit entsprechender Unterstützung sind dünn gesäht und AMD hat Mitte 2019 bereits gezeigt, dass ML hierfür nicht zwingend erforderlich ist, denn bestehende AA-Techniken in Verbindung mit Radeon Image Sharpening zeigten ebenfalls sehr gute Qualität und Leistung und diese ist zudem universell einsetzbar, da sie kein spezifisches Training eines NNs erforderlich macht.
Zukünftig kann man mittels ML sicherlich auch einiges im Gaming-Bereich anfangen, aber solange die Hardware für eine entsprechende Leistung nicht breitflächig im Markt verfügbar ist, wird das keinen SW-Hersteller interessieren, weil es die Spielerfahrung "zersplittern" würde.
(Raytracing dagegen ist "nur" ein grafischer Effekt, der keinen nenennswerten Einfluss auf das Gameplay hat, aber wenn bspw. KI oder Physik primär ML-unterstützt berechnet werden und daher hervorragende Resultate auf moderner Hardware zeigen, während Alt-Hardware beispielsweise hakelige oder unrealistische Physik und strohdumme KI und Wegfindung der Mitstreiter und NPC zeigt, wird das Spiel dort unverkaufbar.)
Arcturus hat laut den Treiberpatches keine 3D-Engine bzw. man kann davon ausgehen das Rasterizer/Geometry-Engines und auch ROPs gestutzt worden sind, möglicherweise auch die TMUs.
Es ist eine reine Compute-Karte und keine klassische GPU mehr, welche keine 3D-APIs unterstützen wird und nicht für Gaming verwendet werden kann.
Arcuturs setzt auf die Vega-ISA GFX9 bzw. stellt selber GFX908 dar, Navi bzw. RDNA1 ist GFX101x und RDNA2 GPUs werden vermutlich auf GFX103x basieren.
Arcturus hat noch ein neues Register-Set, welche der Treiber als AGPRs bezeichnet und neue Machine-Learning-Instructions, die aktuell keine andere GPU drauf hat, egal ob GCN oder RDNA.
Sehr custom-built für einen spezifischen Markt.
Half-Rate FP64 wird laut den Treibereinträgen bei Arcturus unterstützt, entsprechend ja zu den 11 TFLOPs bei dem entsprechenden Takt.
Bin von einer größeren Vega in 7nm ausgegangen - mit deaktuvierten, aber nicht mit weggelassenen Rasterizer und Co