288 GiByte HBM3e-Grafikspeicher: Nvidia liefert mit dem GH200-Superchip ("Grace Hopper") neue Superlativen für AI
Nvidia hat die SIGGRAPH 2023 nicht nur dafür genutzt, die RTX 5000, RTX 4500 und RTX 4000 sowie die RTX Workstation im Detail vorzustellen, sondern hatte ein noch heißeres Eisen im Feuer. Der schier riesige GH200 ("Grace Hopper") Superchip erhält ein signifikantes Upgrade und bietet zukünftig bis zu 288 GiByte HBM3e-Grafikspeicher für AI-Computing.
Nvidia hat die SIGGRAPH 2023, welche vom 6. bis 10. August in Los Angeles ausgetragen wird, nicht nur dafür genutzt, um seine drei neuesten professionellen Grafikbeschleuniger RTX 5000, RTX 4500 und RTX 4000 sowie die unter anderem von den Partnern wie Dell, Lenovo und HP vertriebene Nvidia RTX Workstation im Detail vorzustellen, sondern hatte ein noch heißeres Eisen im Feuer. Das Upgrade des Superchips GH200 ("Grace Hopper") geizt nicht mit neuen Superlativen.
288 GiByte HBM3e und weitere Superlative
Der überarbeitete GH200 ("Grace Hopper") Superchip verfügt nun erstmals über einen 144 GiByte großen HBM3e-Grafikspeicher, welcher mit insgesamt sechs 24 GiByte großen HBM3e-Speicherstacks ("Stapel") umgesetzt wird. Zuvor wurden noch "lediglich" 96 GiByte HBM3-Grafikspeicher geboten. Doch damit enden die Superlative noch lange nicht, bis zu 288 GiByte sind jetzt realisierbar.
144 ARM-Prozessorkerne und 960 GiByte LPDDR5X
Über einen NVLink-Interconnect mit 6 TB/s lassen sich zwei GH200 ("Grace Hopper") Superchips mit zwei ARM Neoverse V2 und insgesamt 144 ARM-Prozessorkernen, 960 GiByte LPDDR5X und den besagten 288 GiByte HBM3e-Grafikspeicher für beeindruckende 8 PetaFLOPS an Rechenleistung zusammenschalten.
Quelle: Nvidia
Quelle: Nvidia
Superchip-Modul demonstriert das Maximum
Die sogenannte "GH200 ("Grace Hopper") Platform", wie Nvidia das Modul aus zwei Superchips nennt, bietet die nachfolgenden technischen Spezifikationen:
GH200 ("Grace Hopper") Platform
- Hopper-Architektur in N4 bei TSMC
- 2 × GH200 ("Grace Hopper") Superchips
- 2 × ARM Neoverse V2 mit 144 ARM-Prozessorkernen
- 960 GiByte LPDDR5X mit ECC-Support und 512 GB/s
- 288 GiByte HBM3e-Grafikspeicher (2 × 144 GiByte)*
- 264 Compute Units (2 × 132 Compute Units)
- 528 Tensor Cores (2 × 264 Tensor Cores)
- 1,2 TiByte Speicher (CPU + GPU)
- 8 PetaFLOPS AI-Leistung
- 450 - 1.000 Watt TDP
- Q2/2024
*) 282 GiByte (2 × 141 GiByte) effektiv nutzbar
Die SIGGRAPH ("Special Interest Group on Graphics and Interactive Techniques") der Association for Computing Machinery ("ACM"), nutzte Nvidia dazu, die Verfügbarkeit des GH200 ("Grace Hopper") Superchips und der darauf aufbauenden Plattform für das 2. Quartal 2024 offiziell anzukündigen. Doch auch damit war das Ende der Fahnenstange auf der SIGGRAPH 2023 noch immer nicht erreicht.
DGX GH200 mit 2.500 Superchips als KI-Supercomputer
Wer noch immer Zweifel an dem Fokus des Unternehmens auf AI-Computing und dem damit verbundenen Führungsanspruch in diesem Geschäftsbereich hatte, auch den belehrte Nvidia zum Abschluss der Keynotes eines Besseren. Der DGX GH200 kombiniert insgesamt 2.500 Superchips zu einem Supercomputer, welcher prädestiniert für anspruchsvollste AI-Workflows neue Maßstäbe setzt.
Quelle: Nvidia
Nvidia DGX mit bis zu 2.500 GH200 ("Grace Hopper") Superchips
Neben der größten Ausbaustufe, dem Nvidia DGX GH200 SuperPod, bietet der Hersteller mit dem DGX BasePod sowie dem DGX A100 und H100 "kleinere" Lösungen an, welche mit den Anforderungen an die AI-Workloads skalierbar sein sollen. Dass Nvidia aktuell der Weltmarktführer in Sachen künstliche Intelligenz, daran besteht auch innerhalb der Branche nicht der Hauch eines Zweifels. Aktuell baut jede Generation von KI-Beschleunigern den Vorsprung sogar noch weiter aus.
Quelle: Nvidia
Nvidia DGX bietet skalierbare Lösungen mit dem Nvidia DGX GH200 SuperPod an der Spitze
Weitere Informationen liefert die offizielle Pressemitteilung (PDF) des Herstellers.
Ihre Meinung ist gefragt!
Wie stehen Sie zu diesem Thema? Die PCGH-Redaktion freut sich über Ihre fundierte Meinung in den Kommentaren zu dieser Meldung. Um zu kommentieren, müssen Sie auf PCGH.de oder im Extreme-Forum eingeloggt sein. Sollten Sie noch keinen Account haben, könnten Sie sich hier unverbindlich registrieren.
Quellen: Nvidia
Außer ich hätte da was falsch verstanden.
Außer ich hätte da was falsch verstanden.
Und wenn ich das richtig verstehe, bestehen die 256 GH-Einheiten jeweils aus einer neuen Grace GPU und einer alten H100 Hopper, deshalb wohl der Name Grace Hopper.