Nvidia Grace und Hopper: Erste Details der Hot-Chips-Präsentation veröffentlicht
Noch vor der Präsentation auf der Hot Chips 2022 hat Nvidia erste Details zu den HPC-Produkten Grace und Hopper veröffentlicht. Im Fokus steht dabei insbesondere der Interconnect.
Jedes Jahr im August findet die Halbleitermesse Hot Chips statt, bei der oft auch spannende Details zu aktuellen oder kommenden Produkten von AMD, Intel und Nvidia veröffentlicht werden. Auch dieses Jahr ist dabei keine Ausnahme: Als Vorbereitung für die Messe hat Nvidia erste Details zur Grace-CPU und zur Hopper-GPU veröffentlicht, die beide für den Einsatz in Supercomputern entwickelt werden.
Details zu Fertigung, Leistung und Interconnect
In Zukunft will Nvidia Grace und Hopper als "Superchips" auf den Markt bringen: Der Grace-Superchip soll zwei Grace-CPUs mit je 72 ARM-Kernen auf einem Mainboard kombinieren, wohingegen der Hopper-Superchip eine Grace-CPU und eine Hopper-GPU vereint. Wie Nvidia nun bestätigt hat, kommt dabei bei beiden Chips TSMCs N4-Fertigung zum Einsatz, bei der es sich um einen verbesserten 5-nm-Prozess handelt.
Quelle: Nvidia (via Tom's Hardware)
Die interne Kommunikation der Grace-CPU setzt auf Nvidias Scalable Coherency Fabric.
In der Grace-GPU soll die Kommunikation zwischen den einzelnen ARM-Neoverse-Kernen laut Nvidia über den Scalable Coherency Fabric (SCF) erfolgen: Ein Mesh-Netzwerk, das 3,2 TB/s Bandbreite bietet und die einzelnen Kerne, den Speicher und die I/O-Schaltungen anbindet. Grundlage für die Technik dürfte dabei das von ARM für die Neoverse-Kerne entwickelte Mesh-Netzwerk CMN-700 sein, das von Nvidia für das konkrete CPU-Design angepasst wurde.
Nach außen soll Grace mit NVLink kommunizieren: So werden Daten mit dem zweiten Grace- oder einem Hopper-Chip ausgetauscht. Zudem soll Grace auch über Standard-Anbindungen verfügen: Laut Nvidia sind pro CPU 68 PCI-Express-5.0-Lanes und 16 Dual-Channel-Anbindungen für LPDDR5X geplant. Insgesamt kann an die CPU somit maximal 512 GB Speicher angebunden werden, der mit bis zu 546 GB/s bearbeitet wird. Den Einsatz von LPDDR5X statt HBM2e begründet Nvidia dabei mit Vorteilen bei den Kosten und der Speicherkapazität.
Quelle: Nvidia (via Tom's Hardware)
Die Grace-CPU soll 12 NVLink-Lanes und 68 PCI-Express-5.0-Lanes bieten.
Quelle: Nvidia (via Tom's Hardware)
Nvidia will einen direkten Speicherzugriff auch zwischen verschiedenen Clustern ermöglichen.
Trotz der unterschiedlichen Speichertechnologien soll eine Hopper-GPU mit HBM2e dabei auch auf den Speicher einer Grace-CPU zugreifen können - und das selbst dann, wenn diese auf einem anderen Mainboard untergebracht ist. Die Kommunikation erfolgt dabei erneut über NVLink. Die von Nvidia eingesetzte Schnittstelle soll dabei mit maximal 900 GB/s und der fünffachen Energieeffizienz von PCI-Express 5.0 arbeiten können. Beim Zugriff auf einen einzelnen Chip wäre die Bandbreite des LPDDR5X-Speichers daher limitierend.
Auch interessant: Biren BR100: China mit extrem leistungsstarker GPU im 7-nm-Prozess
Zuletzt hat Nvidia außerdem noch Leistungswerte parat. Laut dem Unternehmen soll ein einzelner Grace-Chip im Benchmark "SpecIntRate 2017" 370 Punkte erreichen, wohingegen zwei der Chips mit 740 Punkten auf genau die doppelte Leistung kommen sollen. Zum Vergleich: AMDs aktuelles Epyc-Milan-Flaggschiff schafft es auf 382 bis 424 Punkte pro CPU.
Ausschlaggebend für den Erfolg ist aber natürlich nicht nur die Rohleistung, sondern auch der Preis und insbesondere die Effizienz. Zudem ist zu beachten, dass es sich bei den Grace-Leistungswerten, mangels fertiger Hardware, nur um Schätzungen handelt. Die CPU soll erst 2023 auf den Markt kommen.
Ob Nvidia mit den hier präsentierten Details bereits alle neuen Informationen der Hot-Chips-Messe vorgegriffen hat, bleibt abzuwarten. Am Montag wird das Unternehmen dort über die Hopper-GPU sprechen, und am Dienstag soll es um die Grace-CPU gehen. Außerdem werden auch AMD und Nvidia auf der Messe über ihre kommenden HPC-Produkte sprechen.
Quelle: Tom's Hardware
Nvidia vergleicht sich mit der aktuellen HW von AMD und intel, bringt ihre CPU allerdings erst nächstes Jahr heraus und darf sich dann mit Genoa und vermutlich auch neuem von intel duellieren....
CPU seitig sehe ich da AMDs CDNA3 APU definitiv im Vorteil, aber sind wir mal gespannt wie die Produkte nächstes Jahr aussehen werden. Bei intel herrscht aufjedenfall Nachholbedarf.