KI-Beschleuniger Hopper H200: Nvidia legt mit 141 GiByte HBM3e im KI-Wettstreit nach
Wer sich schon gefragt hatte, welchen KI-Beschleuniger Nvidia auf sein Spitzenmodell H100 ("Hopper") wird folgen lassen, dem hat der mit Abstand weltweit führende Hersteller von KI-Beschleunigern jetzt die passende Antwort geliefert und den H200 ("Hopper") mit 141 GiByte HBM3e vorgestellt, welcher einen Vorgeschmack auf den B100 ("Blackwell") liefert.
Wer sich gefragt hat, welchen KI-Beschleuniger Nvidia auf sein aktuell schnellstes Spitzenmodell H100 Hopper mit 80 GiByte HBM2e wird folgen lassen, dem hat der mit großem Abstand weltweit führende Hersteller von KI-Beschleunigern und speziellen GPGPUs ("General Purpose Computation on Graphics Processing Unit ") jetzt die passende Antwort geliefert und den H200 Hopper mit insgesamt 141 GiByte Systemspeicher als kleinen Vorgeschmack auf den B100 Blackwell, der voraussichtlich im kommenden Jahr erscheint, offiziell vorgestellt.
Aus 80 GiByte HBM2e werden 141 GiByte HBM3e
Nvidia spart im Hinblick auf seinen leistungsstärksten KI-Beschleuniger einmal mehr nicht mit Superlativen und das ist auch vollkommen angebracht, denn schon allein beim Systemspeicher, der Nvidias Datacenter-GPU zur Verfügung steht, geht es zukünftig von 80 GiByte HBM2e mit einer Bandbreite von 2 TB/s auf diesmal insgesamt 141 GiByte HBM3e mit 4,8 TB/s hoch. Was wiederum in noch imposanteren Leistungsdaten im Vergleich zu H100 Hopper resultiert.
Quelle: Nvidia
Nvidia H200 Hopper mit 141 GiByte HBM3e und einer Speicherbandbreite von 4,8 TB/s
Der Nvidia H200 Hopper kann als reines Leistungsupgrade zum H100 Hopper betrachtet werden, welches insbesondere mit deutlich mehr Systemspeicher und Speicherbandbreite punkten kann. Im Bereich der KI-Beschleuniger spielt das Unternehmen aus Santa Clara aktuell ohnehin in (s)einer eigenen Liga. Im kommenden Jahr soll dann der B100 ("Blackwell") übernehmen.
Quelle: Nvidia
Auf H100 ("Hopper") und H200 ("Hopper") folgt 2024 der B100 ("Blackwell")
Auch für den B100 ("Blackwell"), benannt nach dem US-amerikanischen Mathematiker David Harold Blackwell, verspricht Nvidia einmal mehr einen schier riesigen Leistungssprung.
Als GH200 mit 288 GiByte HBM3e für weitere Superlative
Der überarbeitete GH200 ("Grace Hopper") Superchip verfügt nun erstmals über einen 144 GiByte großen HBM3e-Grafikspeicher, welcher mit insgesamt sechs 24 GiByte großen HBM3e-Speicherstacks ("Stapel") umgesetzt wird. Zuvor wurden noch "lediglich" 96 GiByte HBM3-Grafikspeicher geboten. Doch damit enden die Superlative noch lange nicht, bis zu 288 GiByte sind jetzt realisierbar.
Quelle: Nvidia
Nvidia GH200
144 ARM-Prozessorkerne und 960 GiByte LPDDR5X
Über einen NVLink-Interconnect mit 6 TB/s lassen sich zwei GH200 ("Grace Hopper") Superchips mit zwei ARM Neoverse V2 und insgesamt 144 ARM-Prozessorkernen, 960 GiByte LPDDR5X und den besagten 288 GiByte HBM3e-Grafikspeicher für beeindruckende 8 PetaFLOPS an Rechenleistung zusammenschalten.
Quelle: Nvidia
Quelle: Nvidia
Superchip-Modul demonstriert das Maximum
Die sogenannte "GH200 ("Grace Hopper") Platform", wie Nvidia das Modul aus zwei Superchips nennt, bietet die nachfolgenden technischen Spezifikationen:
GH200 ("Grace Hopper") Platform
- Hopper-Architektur in N4 bei TSMC
- 2 × GH200 ("Grace Hopper") Superchips
- 2 × ARM Neoverse V2 mit 144 ARM-Prozessorkernen
- 960 GiByte LPDDR5X mit ECC-Support und 512 GB/s
- 288 GiByte HBM3e-Grafikspeicher (2 × 144 GiByte)*
- 264 Compute Units (2 × 132 Compute Units)
- 528 Tensor Cores (2 × 264 Tensor Cores)
- 1,2 TiByte Speicher (CPU + GPU)
- 8 PetaFLOPS AI-Leistung
- 450 - 1.000 Watt TDP
- Q2/2024
*) 282 GiByte (2 × 141 GiByte) effektiv nutzbar
DGX GH200 mit 2.500 Superchips als KI-Supercomputer
Wer noch immer Zweifel an dem Fokus des Unternehmens auf AI-Computing und dem damit verbundenen Führungsanspruch in diesem Geschäftsbereich hatte, auch den belehrte Nvidia zum Abschluss der Keynotes eines Besseren. Der DGX GH200 kombiniert insgesamt 2.500 Superchips zu einem Supercomputer, welcher prädestiniert für anspruchsvollste AI-Workflows neue Maßstäbe setzt.
Quelle: Nvidia
Euroas erster Exascale-Supercomputer "Jupiter" setzt auf rund 24.000 GH200-Superchips
Auch Europas zukünftig stärkster und obendrein erster Exascale-Supercomputer "Jupiter" wird auf rund 24.000 GH200-Superchips zurückgreifen und ab Anfang 2024 gemeinsam mit dem Forschungszentrum Jülich realisiert werden.
Ihre Meinung ist gefragt!
Wie stehen Sie zu diesem Thema? Die PCGH-Redaktion freut sich über Ihre fundierte Meinung in den Kommentaren zu dieser Meldung. Um zu kommentieren, müssen Sie auf PCGH.de oder im Extreme-Forum eingeloggt sein. Sollten Sie bisher noch keinen Account haben, könnten Sie sich hier unverbindlich registrieren. Beachten Sie beim Kommentieren aber bitte die geltenden Forenregeln.
Quelle: Nvidia
Hab die Folie mal angepasst
Frage mich nur, wie so eine Zahl wie 141 GB zustande kommt ?
Ein kohoräntes System wie es jetzt Nvidia bietet, bieten AMD und intel schon ne Weile. Das war u.a. auch der Grund wieso Nvidia bei den Supercomputern in den letzten Jahren nicht zum Zug kam.