Ampere im Test: Technik-Details für Geeks
Ampere entspricht der zweiten RTX-Generation. In diesem Artikelabschnitt beleuchten wir die Unterschiede gegenüber Turing, der ersten RTX-Generation.
Auf dieser Seite
Technik-Exkurs: Ampere unter der Haube
Nvidia bezeichnet Turing als erste RTX-Generation (1st gen) und seinen Nachfolger Ampere folgerichtig als zweite (2nd gen). Sieht man sich einen Shader-Multiprozessor (SM) genauer an, kann Ampere gegenüber Turing einige Verdopplungen aufweisen. Nvidia hat die Anzahl der FP32-Einheiten (alias CUDA Cores oder Stream-Prozessoren) nebst anschließender Datenpfade verdoppelt, sodass Berechnungen mit spieletauglicher Genauigkeit bestenfalls um Faktor 2 zulegen. Doch der Reihe nach. Vorweg: Die SMs von GA102 (RTX 3090/3080) und GA104 (RTX 3070) haben den gleichen Grundaufbau, lediglich die Menge der Module und somit die Gesamtgröße der Chips unterscheidet sich.
Wie vorherige Nvidia-GPUs besteht auch ein Ampere-Chip aus verschiedenen Modulen, welche sich in weitere Unter-Einheiten gliedern. Die größte Untergruppe ist der Graphics Processing Cluster (GPC), von denen der Ampere-Vollausbau erstmals sieben Stück beherbergt. Jeder GPC beinhaltet eine Raster-Engine, sechs Texture Processing Cluster (TPC) und jeder TPC zwei Shader-Multiprozessoren (SM) - all das haben Turing und Ampere gemein. Die markanten Unterschiede finden sich beim Shader-Multiprozessor, von denen in der RTX 3080 immerhin 68 - und somit gleich viele wie bei der RTX 2080 Ti - stecken.
Turing und sein Profi-Vorläufer Volta sind in der Lage, 64 FP32- sowie 64 INT32-Einheiten pro SM gleichzeitig arbeiten zu lassen, was dem Kern eine gegenüber Pascal erhöhte Flexibilität bei Floating-Point- und Integer-Mischlast einbringt. Stattdessen 128 Gleitkomma-Operationen durchzuführen, ist aufgrund einer Limitierung des zweiten Datenpfads bei Turing nicht möglich. Die feine Granularität von nur 64 FP32-ALUs hilft dabei, dass sich der über allem stehende Scheduler ("Gigathread Engine") nicht über Gebühr anstrengen muss, um sie alle mit Arbeit zu versorgen. Zum Vergleich: Kepler (2012) hatte zwischenzeitlich 192 ALUs pro SM, konnte diese aber nur unzureichend füttern, weshalb der Nachfolger Maxwell (2014) auf 128 hinunterging und auch Pascal (2016) dabei blieb.
Der Shader-Multiprozessor in Ampere erfuhr einige Umbauten, sodass hier wieder die Zahl 128 regiert. Im Fokus standen die ehemals nur INT32-fähigen Einheitengruppen, deren Fähigkeiten und Datenpfade gehörig aufgebohrt wurden. Anstelle der Turing'schen 64 INT32-ALUs werkeln in Ampere verbesserte Exemplare, die sowohl Ganzzahlen- als auch Gleitkomma-Operationen mit 32 Bit Genauigkeit beherrschen - aber nicht parallel, bei den Misch-ALUs gilt das Entweder-oder-Prinzip. Die Anzahl der Warp-Scheduler - das sind die Einheiten, welche die ALUs mit vorsortierten Mathe-Aufgaben versorgen - stagniert bei vier und somit bleibt Obergrenze von 128 ALU-Operationen pro SM/Takt unverändert (4 × 32er Warp-Size). Auch die Kapazität des viel Platz einnehmenden L2-Cache, welcher zwischen den GPCs sitzt, beträgt unverändert 6 MiByte, nachdem er früher pro Generation vergrößert wurde. Auf der RTX 3090 sind die vollen 6 MiByte L2-Cache ansprechbar, auf der RTX 3080 nur 5 MiByte (von Nvidia bestätigt).
Der Input durch die Applikation entscheidet bei Ampere, welche Rechenwerke verwendet werden - und somit auch, wie stark er sich von Turing absetzen kann. Ampere nutzt dabei entweder alle 128 FP32-Einheiten (viele Gleitkomma-Berechnungen) oder 64 FP32- plus 64 INT32-Einheiten (Mischlast mit einigen Ganzzahlen). Laut Nvidia profitieren beispielsweise die für das Echtzeit-Raytracing benötigten Denoising-Shader, welche die Lücken im Bild füllen, stark von erhöhter Floating-Point-Leistung.
Damit die Auslastung nicht unter der rückläufigen Granularität leidet, hat Nvidia die Level-1-Cache-Transferrate verdoppelt (128 statt 64 Bytes/clock) und dessen Kapazität um immerhin 33 Prozent vergrößert: 128 statt 96 KiByte partitionierbarer L1 Data Cache sind es nun pro Graphics Processing Cluster (896 KiByte im ganzen Chip). Erfahrungsgemäß reicht dies nicht, um eine perfekte Skalierung zu erreichen, zumal nun andere Ressourcen limitieren. Laut Nvidias Chefarchitekt Jonah M. Alben hapere es im Zweifel am Register-Platz, was beim Blick auf die schematische Darstellung Sinn ergibt: Das Register File bleibt bei 256 KiByte Kapazität pro SM, unterteilt in vier 64 KiByte große Blöcke, welche direkt den ebenfalls vierfach gruppierten Rechenwerken unterstehen.
Für Spiele irrelevant, aber ein wichtiger Kompatibilitätsfaktor ist, dass jeder Ampere-SM außerdem zwei FP64-/DP-fähige CUDA-Kerne beherbergt (168 im Full-Fat-GA102). Diese Einheiten kümmern sich um Berechnungen mit doppelter Genauigkeit ("Doubles" statt "Floats"), welche in Spielen nicht vorkommen. Läuft einem GA10x also ein Programm über den Weg, das für den (G)A100 und dessen FP64-fähige Tensorkerne geschrieben wurde, kann er es ausführen - allerdings im Verhältnis unglaublich langsam; die FP64/FP32-Rate beträgt 1:64.
Bemerkenswert ist auch, dass Nvidia bei Ampere mit einer lange gehegten Tradition bricht: Die auch als Render-Backends bezeichneten Raster Operation Units (ROPs) sind nicht nicht mehr fest an die Speicherschnittstelle gekoppelt, sondern wandern in den GPC. Das hat den Vorteil, dass die ROP-Anzahl nicht mehr automatisch schrumpft, sobald das Speicher-Interface reduziert wird, und erhöht außerdem die Rasterisierungs-Geschwindigkeit inklusive Multisample-Kantenglättung und Blending. Laut Nvidia behebt die Änderung eine Asynchronität zwischen dem Scan Conversion Frontend und dem Raster-Backend. Jeder GPC in Ampere beherbergt zwei ROP-Blöcke à acht Einheiten. Bei bestenfalls sieben GPCs im GA102 ergibt das erstmals 112 ROPs und somit einen um 16,7 Prozent erhöhten Durchsatz pro Takt, welcher bei der Erzeugung des finalen Pixelrasters am Bildschirm hilfreich ist. Während sich die RTX 3090 damit schmücken kann, fällt auf der RTX 3080 ein GPC mit 16 ROPs dem Rotstift zum Opfer, sodass die Pixelfüllrate pro Zyklus auf das Niveau der Titan RTX zurückfällt. Uns ist jedoch kein moderner Fall bekannt, bei dem dies einen Hemmschuh darstellt.
Schnelltest: ALU-Latenz
Wie bei Navi alias RDNA 1 waren wir neugierig und wollten die ALU-Latenz für eine MADD-Operation nach dem Ampere-Umbau genauer wissen. Dazu haben wir erneut ein spezielles Testprogramm befragt. Eine Möglichkeit der Überprüfung ist, einen komplexen Shader über ein einziges Pixel zu jagen und dabei die Zeit zu messen. Bitte beachten Sie, dass das Tool bereits einige Jahre auf dem Buckel hat und daher nicht der Weisheit letzter Schluss ist. In dieser einen Probe zeigt sich, dass die ALU-Pipeline von Ampere genauso schnell arbeitet wie Turing: Nach 4 Taktzyklen liegt ein Ergebnis vor. 4 Zyklen benötigen auch die GCN-basierten Modelle Radeon RX Vega 64 sowie Radeon R9 Fury X, wohingegen eine Pascal-Geforce wie die GTX 1080/1070 sich 6 Takte Zeit lassen.
RT-Cores 2.0 und Tensor-Cores 3.0
Raytracing ist eine einzige Sucherei: Vor, zurück, vor, zurück, vor - Treffer! Ungefähr so kann man sich das vorstellen, wenn die GPU den volumetrischen Datenbaum nach Polygonen absucht, die es zu shaden gilt. Trotz aller Vereinfachungen ist Raytracing eine sehr rechenaufwendige Angelegenheit, bei der jedes Plus an Hardware-Power hilft. Wenig überraschend kommt die unter PCGH-Lesern noch breit genutzte Pascal-Architektur auf keinen grünen Zweig, sobald Raytracing zum Einsatz kommt, schließlich werden hier alle Aufgaben von den programmierbaren "Ich kann alles, aber nicht unbedingt schnell"-FP32-ALUs erledigt. Diese Aufgabe, so Nvidia, lasse sich ohne spezielle Rechenwerke kaum parallelisieren, sodass die Auslastung eines Shader-Clusters desaströs ausfalle - wir haben derartiges Software-DXR immer wieder ausprobiert und können die Aussage mit Performance-Werten untermauern.
Quelle: Nvidia
Nvidia Geforce RTX 3080 im Test: Verdoppelte Gleitkommaleistung, verdoppelte Triangle Intersection Rate und bessere FP16-Tensorleistung, all das macht die 2. RTX-Generation aus.
Raytracing-Kerne 2.0
Nvidia hat die Beschwerden klar und deutlich vernommen. Viele Spieler erwarteten von Turing alias RTX 20, dass diese Grafikkarten nicht nur hübschere (RTX-)Grafik erzeugen können, sondern dabei auch noch schneller seien als Pascal/GTX 10. Dies klappte bei RTX 20 bekanntlich nicht - mit Ampere soll es nun aber soweit sein. Nvidias Beispiel, Wolfenstein Youngblood, zeigt eine Geforce RTX 3080, die bei aktivem Raytracing rund 80 Prozent schneller als eine GTX 1080 Ti ohne die Next-Gen-Effekte rendert. Dies erreicht sie nicht nur dank zusätzlicher FP32-ALUs, sondern auch durch aufgemöbelte Raytracing-Cores. Deren Triangle Intersection Rate (das Aufspüren von Polygonen im Raum) wurde laut Nvidia verdoppelt, während die Anzahl bei einem pro SM bleibt. Die RTX 3080 verfügt somit wie die RTX 2080 Ti über 68 RT-Kerne, welche sich aber wie 136 Turing-RT-Kerne verhalten.
Tensor-Kerne 3.0
Bei den Tensor-Kernen handelt es sich nicht direkt um Einheiten, die der Spiele-Leistung auf die Sprünge helfen. Sie sind neuartige Rechenwerke, die aus dem Machine-Learning-Bereich herübergeschwappt sind, um bei Spielen unterstützende Berechnungen durchzuführen. 2017 mit der Profi-Architektur Volta eingeführt (Tensor Core 1.0), brachte Nvidia diese auf Matrix-Multiplikationen ausgelegten Spezialisten mit Turing in den Massenmarkt (Tensor Core 2.0). Mit Ampere steht nun die dritte Iteration auf der Matte - mit demselben Ziel, das zwischenzeitlich deutlich an Kontur und somit Praxisnutzen gewonnen hat: Die Tensor-Kerne wenden das durch Training/Inferencing gewonnene Wissen auf Spiele an, um die Leistung drastisch zu steigern und dabei trotzdem noch hübsche Bilder zu erhalten. Möglich wird dies durch DLSS 2.0, welches in verschiedenen Qualitätsstufen zur Verfügung steht, allerdings eine explizite Integration durch Spieleentwickler benötigt und daher nicht einfach per Treiber forciert werden kann. DLSS ist nach wie vor der einzige Einsatzzweck für die Tensorkerne in Spielen. Neu ist die Möglichkeit für Game-Streamer, deren Rechenleistung im Rahmen von Nvidia Broadcast für Spezialeffekte zu nutzen.
Quelle: Nvidia
Nvidia Geforce RTX 3080 im Test: Amperes Tensor-Kerne 3.0 sind mächtiger als die Tensor-Kerne 2.0 in Turing, daher wurde ihre Anzahl halbiert.
Interessant ist, dass Nvidia auch hier nicht einfach die Anzahl der Rechenwerke verdoppelt hat, sondern deren Durchsatz. In den Gamer-Amperes GA10x stecken nicht die großen Alleskönner-Tensoren des Profi-Chips GA100 ("Uber Tensor Core"), sondern flächen- und zweckoptimierte Derivate. Dennoch ist jeder einzelne potenter als in Turing, sodass Nvidia die Anzahl der TCs von acht auf vier pro Shader-Multiprozessor reduzieren konnte, ohne Rechenleistung zu verlieren. Beide SM-Konfigurationen stemmen 512 Fused Multiply-Add-Operationen (FMA) gleich schnell. Zusätzlich sind die Ampere-TCs bei entsprechender Programmierung in der Lage, den doppelten Durchsatz zu erzielen, was sie ihrer Herkunft aus dem Profi-Bereich verdanken. Möglich wird dies durch ein "Sparsity" genanntes Feature, das den Zustand neuronaler Netzwerke beschreibt. Parameter eines trainierten neuronalen Netzes, deren Wert 0 ist, sind irrelevant und können von Ampere daher schnell verworfen werden - das spart die Hälfte der Rechenzeit. Derzeit ist unklar, inwiefern DLSS von diesem Trick profitiert. Fakt ist nur: Kommt keine Sparsity zum Einsatz, kann sich Ampere nicht von Turing absetzen, sodass DLSS unter bestimmten Umständen schlechter skaliert.
Das mit Turing eingeführte "Dual Issue", also die Fertigkeit, Floating-Point- und Integer-Aufgaben parallel abarbeiten zu können, hilft der Raytracing-Leistung genauso wie die mit Turing umgestellte Caching-Hierarchie, welche besagtes Trial-&-Error-Spiel bei der Strahlensuche abkürzt. Zu guter Letzt dürfte die Tatsache, dass ein Shader-Multiprozessor nun alle modernen Kalkulationen parallel ausführen kann, ein weiterer Performance-Bringer sein. Turing kann nicht gleichzeitig FP32-, RT- und Tensor-Berechnungen ausführen, sondern immer nur zwei von dreien. Dabei gibt es derzeit einen Haken: Spiele benötigen Patches, um Amperes neues Multitasking zu beherzigen. Nvidia kündigte an, dass Wolfenstein Youngblood das erste Spiel sein wird, das ein entsprechendes Update erhält - und zwar bereits am RTX-3080-Launchtag (17. September 2020). Künftige Raytracing-Brocken wie Cyberpunk 2077 und Watch Dogs Legion werden hingegen ab Werk die neuen Möglichkeiten ausschöpfen.
- Seite 1 Ampere im Test: Spezifikationen, Preispunkt und mehr
- Seite 2 Ampere im Test: Technik-Details für Geeks
- Seite 3 Ampere im Test: Founders Edition 3.0
- Seite 4 Ampere im Test: Spiele-Benchmarks in WQHD, UWQHD und Ultra HD
- Seite 5 Ampere im Test: Lautheit, Leistungsaufnahme, Effizienz
- Seite 6 Ampere im Test: Zusammenfassung mit Fazit
Ist das so richtig zusammen gefasst?
Also ich werde mir sicher auch sowas kaufen und dabei auch sicher darauf achten, dass die Karte möglichst viele 8-polige PCIe Stecker hat, aber dass wir alle schon verrückt sind das will ich ja wenigstens mal gesagt haben, wo es ja eh keinen interessiert
Ist das so richtig zusammen gefasst?
Tatsächlich gibt es mittlerweile Grenzwerte für Bürorechner, aber eben nicht für "Exoten" wie die Gamingmaschinen. Zudem bleibt dir zumindest die Wahl deinen Strom aus Quellen zu beziehen die weniger dramatische Auswirkungen haben (ja du hast sogar die Wahl für dich die Entscheidung zu treffen welcher genauen Variante du diese Eigenschaft am ehesten zutraust) als der deutsche Standardmix.
Zum Punkt dass man sich früher mehr über die TDPs aufgeregt hat:
Was den Kunden am Ende gestört hat war die Lautstärke. Die GF5 z.B. sind berühmt geworden weil sie so gerauscht haben, nicht wirklich wegen des absoluten Verbrauches.
den eine 3070 mit ca 2080ti leistung dabei aber nur mit 8gb vram ?
ohje ohje.
keine ahnung was sich huag mit den 29.10 bezwecken will, aber lustig wird es alle mal werden.
Edit:
vll überrascht nv und bringt die 3070 direkt mit 16gb vram, da die 3070 mit nur 8gb vram, einfach zu armselig gegenüber rx 6800xt mit 16gb vram ausehen würde
[Ins Forum, um diesen Inhalt zu sehen]
Wo soll das eigentlich hinführen, mal die Tatsache, dass man ja nun auch Recheneinheiten im Rechner hat, die auf dedizierte KI Leistung, also auf die KI Leistung von GPU-Compute Serverhallen, zurückgreifen kann, bei Seite!!!???
Ich denke, dass man das nicht mal kritisch betrachten muss, um zu denken, dass sämtliche Vorsätze die irgendetwas mit Vernunft bezüglich Ökologie und dem sicheren Umgang mit KI Rechenleistung zu tun hatten, einfach ausgeblenet wurden und nun irgendwie so getan wird als hätte es derartiges nie gegeben.
Da passt es ja auch gut, dass neue "effizientere" also stärkere PSU´s eingeführt werden, quasi von Intel vorgegeben und auf den Grafikkarten neue Stecker eingeführt werden bei denen niemand ohne weiteres noch weiß, wieviel Strom da maximal durchfließen kann, nur dass es ne Menge ist ??!
Tja was will man machen wenn das halt so ist, wenn die Industrie und der Markt der haltlosen"" Unvernunft"" nicht nur freie Bahn lassen, sondern sie sogar als Standard vorgeben!!??
Man kann wohl nur hoffen, dasss es nvidia schafft durch den etwas feineren Fertigungsprozess der bei TSMC( erstmalig von mir richtig geschieben übrigens) die Sache wieder etwas zu kompensieren.
Aber aus Erfahrung weiß man ja, dass jedwedge Effizienz aus ökonomischer Sicht, sehr schnell in Mehrleistung umgewandelt wird und schon ist die Messlatte an erwarteter Leistung wieder ein Stückchen höher gelegt.
Also ich will sicher kein Spielverderber sein und werde sicher diesen Wahnsinn auch, oder sogar im höchsten Maße betreiben, sobald es mir möglich ist. Trotzdem hab ich das Gefühl, dass das Ganze etwas übertrieben unmoralisch erscheint???!!
Aber das ist kein Schuh den sich die Gamer oder Harware User anziehen sollten, sondern die Industrie?
Keine Ahnung, in der Vergangenheit, die ja nicht mehr existent ist, hat man sich wer weiß wie aufgeregt wenn ein max. TDp von 250Watt überschritten wurde. Das war doch ein Rahmen an den sich jeder Chiphersteller wie Boardpartner unbedingt halten musste, der das Maximun an dem darstellte was noch irgendwie vertretbar ist.
Jetzt interessiert es plötzlich niemanden mehr, wenn das im hohen Bogen überschritten wird. Eine Asus RTX 3080 STrix hat von grundauf 3 8polige PCIe Stecker, das sind 525 mögliche Watt die da durchgehen können.
Hat man die neuen Stecker eingeführt um dem absurden Anblick von 4 oder sogar 5 x8 poligen PCIe Steckern vorzubeugen??
Also ich werde mir sicher auch sowas kaufen und dabei auch sicher darauf achten, dass die Karte möglichst viele 8-polige PCIe Stecker hat, aber dass wir alle schon verrückt sind das will ich ja wenigstens mal gesagt haben, wo es ja eh keinen interessiert
ja wird so kommen !