Nvidia Tesla V100: Volta-Flaggschiff ist 815 mm² riesig und hat 5.376 Shader [Update 2]

Nvidia hat die Katze wie erwartet aus dem Sack gelassen und die erste HPC-Beschleunigerkarte mit Volta-Innenleben angekündigt. Die Tesla V100 beerbt die Tesla P100 und setzt dafür auf die Volta-GPU GV100, mit der Nvidia die Grenzen aktueller Belichtungstechnologie ausreizen dürfte: Stolze 815 mm² ist GV100 groß - auf eine solche Chipfläche kam bisher noch kein Grafikchip. Gefertigt wird die GPU bei TSMC im "12 nm FFN"-Prozess, bei dem es sich um einen erneut verbesserten 16FF+ handelt - laut Nvidia für die hauseigenen GPUs optimiert. Die inzwischen gut gereifte 16-nm-Fertigung ermöglicht offensichtlich 815-mm²-GPUs, die zumindest im HPC-Bereich zu guten Profiten verkauft werden können.

Volta: Spezifikationen der GV100-GPU

Quelle: Nvidia Beim ersten Prototyp der Tesla V100 ist die GV100-GPU um 90 Grad gedreht In den 815 mm² stecken 21,2 Milliarden Transistoren, womit die Packdichten gegenüber dem GP100 von 25,08 Mio. auf 26,01 Mio. Transistoren pro Quadratmillimeter steigt. Physisch vorhanden sind 84 Shader-Multiprozessoren (SMs) mit 5.376 FP32-Shadern, 2.688 FP64-Shadern und 672 sogenannten, neuen Tensor-Kernen, die innerhalb von sechs GPCs organisiert sind. Die Tensor-Kerne seien für Deep Learning optimiert und berechnen 4×4×4-Matrizen: D[FP32] = A[FP16] * B[FP16] + C[FP32]. Im GP100 steckten noch dedizierte, reine FP16-Einheiten. Beim GV100 spricht Nvidia von einer bis zu sechsfachen FP16-Leistung, eine lineare Steigerung von 1:2:4 (FP64:FP32:FP16) gibt es nicht mehr. Neben 16 FP32-Einheiten besitzt ein SM auch 16 dedizierte INT32-Einheiten, weshalb es sich beim GV100 um die erste GPU handle, die beide Berechnungen gleichzeitig mit voller Geschwindigkeit berechnen könne.

Beim GP100 bestand ein SM aus zwei Processing-Blocks, die beim GV100 nochmals halbiert werden, um die Auslastung pro SM weiter zu erhöhen. Neu ist ein L0-Instruction-Cache, der eine höhere Effizienz als die Instruction-Buffer bei Pascal ermöglichen soll. Der L1-Data-Cache und der zuvor getrennt ausgeführte Shared Memory werden zusammengeführt (pro SM 128 KiByte) und können jetzt individuell konfiguriert werden. Der L2-Cache wird von 4 auf 6 MiByte vergrößert. Für den RAM können acht 512-Bit-Controller vier 1.024-Bit-HBM2-Stacks ansteuern. Der Anschluss erfolgt über bis zu sechs NV-Links 2.0 mit einer maximalen Übertragungsrate von 300 GB/s.

Quelle: Nvidia Blockdiagramm einer GV100-GPU

Volta: Spezifikationen der abgespeckten Tesla V100

Um die Ausbeute zu steigern, steckt auf der Tesla V100 kein vollaktivierter GV100. Von den 84 SMs sind noch 80 aktiv, was 5.120 FP32-/INT32-Shader, 2.560 FP64-Shader und 640 Tensor-Kerne ergibt. Bei einer maximalen Leistungsaufnahme soll der typische Boost-Takt bei 1.455 MHz liegen, was eine theoretische Rechenleistung von knapp 15 FP32- und 7,5 FP64-TFLOPS ergibt. Eine Tesla P100 kommt auf 10.608/5.304, eine Geforce GTX 1080 Ti mit Referenztaktraten auf 11.340/354 TFLOPS.

Tesla V100

Als Mezzanine-Modul mit NV-Link Als PCI-Express-Steckkarte

Vollbild-Vergleich

Volta: HBM2 von Samsung

Die vier HBM2-Stacks stammen von Samsung, der den Speicher nur inoffiziell anbietet (offiziell steht er nicht im Produktkatalog). Bei der Ausbeute gibt es offenbar Probleme, denn zunächst werden nur 4-Hi-Stacks mit 4 GiByte Kapazität (insgesamt 16 GiByte) angeboten, die mit knapp 900 statt der angepeilten 1.000 MHz laufen. Das ergibt eine Speicherübertragungsrate von 900 GB/s. AMD wird seinen HBM2 vermutlich von SK Hynix beziehen, rosig sieht das Thema Stacked-DRAM damit aber nicht aus.

Volta: "Nano"-Ableger mit 150 Watt TDP [COLOR=textColor3](Update)

Die ausgewachsene Tesla V100 weist eine maximale TDP von 300 Watt auf, lässt sich aber auch mit niedrigeren Powerlimits abriegeln. Wer die maximale Effizienz erreichen möchte, kann zu einem kleineren GV100-Ableger greifen. Nvidia wird eine 150-Watt-Version anbieten, die analog zu AMDs Radeon R9 Nano niedriger taktet, dafür aber deutlich effizienter arbeitet. Genaue Spezifikationen sind noch nicht bekannt. Der Beschleuniger ist als FHHL-PCI-Express-Steckkarte (Full height, half length) ausgeführt, die den PEG-Steckplatz nur um wenige Zentimeter überragt, und belegt lediglich einen einzelnen Slot. Quelle: hothardware.com Nvidia Volta: GV100-Ableger mit 150 Watt TDP

Volta: Aussicht auf Geforces

Quelle: Nvidia Blockdiagramm eines Volta-GV102-SMs Wie schon der GP100 wird auch der GV100 nichts für den Endkundenmarkt. Die dedizierten INT32- und FP64-Einheiten und vor allem die Tensor-Kerne werden dort schlichtweg nicht benötigt, was den Chip dort unnötig aufblähen würde. Zudem dürfte Nvidia dort auf günstigeren GDDR6-Speicher setzen. Wiederholt der Chiphersteller bei Volta das Spielchen von Pascal, dürfen sich Interessenten aber auch dort auf 5.376 FP32-Shader organisiert in 42 SMs (128 Shader/SM) freuen. Erste Ableger könnten eine abgespeckte GV102-GPU mit 5.120 Shadern (40 SMs) nutzen, eine spätere Titan den Vollausbau. So oder so wären bei gleichbleibenden Taktraten Leistungssteigerungen von rund 40 Prozent gegenüber der aktuellen Titan XP und GTX 1080 Ti drin. Interessenten werden sich wahrscheinlich aber noch bis Anfang 2018 gedulden müssen.

Das Blockdiagramm eines Shader-Multiprozessors ist zwar nicht proportional, zeigt aber schon, dass ein SM durch das Weglassen der Tensor-Kerne und der FP64-Einheiten deutlich kleiner gestaltet werden kann. Ein GV102 mit 5.376 FP32-Shadern in einem 600-mm²-Korsett erscheint durchaus machbar - stellt allerdings noch reine Spekulation dar.

Artikel teilen

Nvidia Tesla V100: Volta-Flaggschiff ist 815 mm² riesig und hat 5.376 Shader [Update 2] Nvidia hat die erste Volta-basierte Beschleunigerkarte für den HPC-Bereich angekündigt, die Tesla V100. Als Herzstück dient die GV100-GPU mit rekordverdächtigen 815 mm² Chipgröße. Darin stecken 5.376 FP32-Shader, 2.688 FP64-Shader und neuartige Tensor-Kerne für Deep-Learning. An acht 512-Bit-Speicher-Controllern hängen 16 GiByte HBM2, die 900 GB/s erreichen.

Per E-Mail versenden

255