GTC 2022: Livestream für Next-Gen-GPUs heute ab 16:00, neueste Leaks [Erinnerung]
Seit gestern läuft die GPU Technology Conference 2022 (GTC) im virtuellen Setting. Sie soll in mehr als 900 Einzelsessionen mit 1.400 Rednern Einblicke in die Branche geben und vor allem auf die wichtigen Themen KI, High Performance Gaming und Grafik eingehen. Nvidia soll die GTC unter anderem für die Vorstellung der neuen Hopper-GPUs nutzen wollen.
Erinnerung: Gleich startet der Livestream von Jensen Huang.
Nicht verpassen:
Nvidia hat bereits in der Vergangenheit zwischen GPU-Architekturen für den Compute-Sektor und die Spieler unterschieden. Zuletzt geschah das mit Volta, das als möglicher Pascal-Nachfolger nur für den Compute-Sektor veröffentlicht wurde. Aktuell sieht es so aus, dass das dieses Jahr mit Lovelace für die Spieler und Hopper für AI-Berechnungen abermals eine Trennung in zwei Architekturen erfolgen soll.
Nur wenige Stunden vor der offiziellen Premiere im Rahmen von Nvidias Keynote um 16:00 wurde nun eine Render-Darstellung geleakt, die den Aufbau und wichtige Schlüsselelemente der großen GH-100-GPU zeigen soll. Der Chip soll eine monolithische GPU mit sechs Clustern werden, die 144 Streaming-Multi-Prozessoren beinhalten sollen. Lediglich eines dieser Cluster soll nach bisherigen Informationen mit einer Render-Engine ausgestattet sein und die Möglichkeit einer Grafikausgabe unterstützen. Das zeigt eine klare Priorisierung der Datenzentren, da solche Funktionen hier im Gegensatz zum Endkundenmarkt nicht wirklich wichtig sind.
GH-100 soll außerdem mit bis zu sechs Stacks High-Bandwidth-Memory (HBM) ausgestattet sein, wobei die genauen Spezifikationen des Speichers weiterhin unbekannt sind. Laut den bisherigen Gerüchten sollen heute Nachmittag gleich mehrere Produkte mit GH-100-GPU vorgestellt werden. Darunter soll die H100 sein, eine PCI-E-basierte GPU, eine SXM-basierte Version der H100 für ein DGX-Mainboard sowie eine DGX H100 Station und ein DGX H100 Super Pod.
Quelle: Videocardz

Die H100 PCIe Karten haben dann offensichtlich wieder 100 Watt Handicap...
Und N4 kitzelt wohl 5% mehr Performance bei gleicher Leistungsaufnahme aus dem "normalen" N5, zumindest lt. TSMC...
Edit: H100 hat wohl 80 GB HBM3. Und Funfact die 8 GPUs im DGX H100 brauchen genauso viel Energie wie ein DGX A100 der letzten Generation. Bye Bye meine 250 Watt Grafikkartenträume...
80 Milliarden und 814mm² also ~100 Millionen Transistoren /mm²
>> Und wieder nur 5 HBM Stacks aktiv.
Natürlich, das sind 12 HBM-Controller wie bei Ampere. Wäre nur ein einziger defekt, müsste man den ganzen Chip downgraden oder gar entsorgen, wenn man den H100 auf 6 Stacks/12 Controller auslegen würde.
Darüber hinaus kann man hier vielleicht Ende 2023 ggf. ebenso erneut wie bei Ampere ein Speicherupgrade erwarten. 12-hi-Stacks dürften mit HBM3 vergleichsweise schnell folgen, d. h. ein 120 GB-Modell kommt vielleicht als Zwischenschritt.
>> ... selbst wenn sich HBM3 den Mehrtakt nur mit höherer Leistungsaufnahme erkämpft.
Das Speicherlayout ist grundsätzlich vergleichbar zu Ampere, d. h. man kann annehmen, dass das Speichersubsystem von Hopper absolut gesehen weniger als das von Ampere verbrauchen wird, da HBM3 effizienter sein soll.
Hatte mal gelesen, das der Spike-Wert mit PCiE 5.0-Stecker bei 684W liegen soll.
oder
Hätte man dann 684W@PCiE+75W Slot?
Wie schon angekündigt wird es von Hopper später auch PCIe-Karten geben (ebenso wie von A100), der Verbrauch und die Leistung wird bei diesen jedoch absehbar niedriger liegen.
*) Interessant ist aber auch durchaus, wie viele N4-Kapazitäten nVidia offensichtlich bei TSMC gebucht hat und nutzt, denn Hopper ist ja nicht deren einziges Design. Beispielsweise auch deren Spectrum-4 Ethernet-Switch-Chip, ein 100 Mrd. Transistor-Monster im N4, ist ein weiteres Design auf dem Prozess und wesentlicher Bestandteil von deren Datacenter-HW-Portfolio.
Nicht weniger interessant dürfte auch deren Grace-CPU sein, die in 2023 erscheinen soll und offensichtlich sehr leistungsfähig werden wird und sie anscheinend komplett unabhängig von bspw. x86-CPUs oder anderen ARM-Herstellern machen wird.