Nvidia Ampere als Karte: A100 mit PCI-Express 4.0 für Server
Nvidias Ampere ist neuerdings auch als PCI-Express-Karte erhältlich - als Nachfolger der Tesla V100 für Server. Auf Seiten der Spezifikationen stehen 40 GiByte HBM2 und PCIe 4.0. Server-Anbieter haben bereits Pläne für den Beschleuniger.
40 GiByte HBM2 und PCI-Express 4.0 klingen definitiv spannend, vor allem im Kontext von Nvidias neuer Ampere-Architektur. Gamer können die Kinnlade aber gleich wieder einklappen. Es geht nämlich nicht etwa um die Geforce RTX 3090, RTX 3080 Ti oder die neue RTX Titan, sondern um eine neue Server-GPU auf Basis des A100. Dieses Mal als PCI-Express-Karte.
Die GPU wird weiterhin bei TSMC im 7-nm-Prozess gefertigt. 54 Milliarden Transistoren sollen gegenüber Volta eine bis zu 20-mal höhere Rechenleistung ermöglichen: Beim FP32-Training nennen die Amerikaner 312 TFLOPS und beim INT8-Inferencing 1.248 TOPS. Die FP64-HPC-Leistung gibt Nvidia mit 19,5 TFLOPS an, was einer Steigerung um den Faktor 2,5 entspricht.
Mit 40 GiByte HBM2 muss sich die PCIe-Karte nicht vor dem bereits enthüllten SXM4-Modul mit gleicher GPU verstecken. Allerdings kann sich das SXM4-Modul 400 Watt gönnen, die TDP der A100-PCIe-Karte liegt bei 250 Watt. Daher sind beide Ansätze auch nur auf dem Papier gleichschnell. Gegenüber Computerbase teilte Nvidia mit, dass die PCIe-Karte und das SMX4-Modul lediglich die gleiche Spitzenleistung (Peak) haben. Die kontinuierlich (sustained) abrufbare Leistung der Neuvorstellung liege 10 bis 50 Prozent unterhalb des SMX4-Moduls.
Skalierbare Server
Nvidia wirbt mit der Skalierbarkeit der PCI-Expresslösung. Während bei der HGX-A100-Konfiguration vier oder acht GPUs zusammengeschlossen werden, lassen sich mit der Steckkarte auch Systeme mit nur einer GPU umsetzen. Gleichwohl seien Server und Workstations mit zehn und mehr GPUs möglich. Direkt kommunizieren können mittels NVLinks aber immer nur zwei Karten.
Hersteller haben für die neue PCI-Express-Lösung bereits Pläne. In seiner Ankündigung nennt Nvidia prominente Namen wie Asus, Atos, Lenovo, Gigabyte, Dell und Cisco. Gigabyte wird beispielsweise Server auflegen, die mit bis zu zehn der neuen GPUs aufwarten.
Mehr zum Thema: In trauter Zweisamkeit: Nvidias DGX A100-Ampere mit Server-CPUs von AMD
Da Server-Hersteller die Auslieferung der GPUs übernehmen, hat Nvidia keine Preisvorstellung kommuniziert. In unserem Preisvergleich findet sich ein älterer Tesla V100 mit 32 GiByte HBM2. Er ist ab rund 9.000 Euro erhältlich.
Quelle: Nvidia
Ist halt Salvage. Nur 5 von 6 HBM-Stacks sind aktiv und das Speicherinterface ist entsprechend beschnitten.
War bei der Titan V auch so. 3072-bit Interface, 3 von 4 HBM-Stacks aktiv, 12 statt 16 GB VRAM.
Wie man sieht, sind Speichermengen von 10 und 11 GB bereits in den normalen Sprachgebrauch übergegangen.
Es geht hier im Nvidia-Karten und hat eigentlich rein gar nichts mit AMD zu tun.
Meinen Link nicht gesehen? Nvidia bewirbt ihre A100 Karten ganz offiziell mit Epyc, wieso sollte ich das nicht erwähnen dürfen, dass es für AMD auch gut ist, dass ihr Konkurrent Nvidia so Karten bringt? Oder schmälert das irgendwo die Leistung von Nvidia, wenn die Karten mit einem Epyc betrieben werden?
Gratuliere - da kann ich auch genauso sagen es führt kein Weg an Intel vorbei - ist genauso falsch wie dein geschwafel.
Aber gerne nochmal für dich, Nvidia bewirbt offiziell für ihre A100 Karten Epyc als Plattform:
Nvidia Ampere GPU-Architektur und A100-GPU: DGX A100 kommt mit acht A100-GPUs - ComputerBase
Von daher ja, es führt kein Weg an AMD vorbei, wenn man diese Karten nutzen möchte. Wäre Nvidia anderer Meinung, würde sie ja IBM oder ARM oder intel empfehlen... Tun sie aber nicht!
Liegt bestimmt nur daran, weil die bei Nvidia alle doof und inkompetent sind und den Vorteil von intels Serverplattform einfach nicht erkannt haben
I/O ist ja bei allen gleich!
Jaja - "Es führt kein weg an AMD vorbei wenn man nur AMD nehmen darf und keine der anderen Alternativen".
Gratuliere - da kann ich auch genauso sagen es führt kein Weg an Intel vorbei - ist genauso falsch wie dein geschwafel.
Nicht wirklich. x86 Kompatibilität und PCIe 4 sind keine völlig realitätsfremden Forderungen im Rechenzentrum, sondern quasi das Standardpflichtenheft. Ersteres, weil x86 (bzw AMD64 +drölfzigtausend Extensions), halt das meistverbreitete, ergo am meisten ausgereifte System ist. Letzteres, weil man sowohl die Beschleunigerkarten, als auch die Interconnects nicht verhungern lassen will. Ein Rackeinschub mit ein paar Ampere Karten kommt ja üblicherweise nicht alleine, sondern eher zu hundertfach. Die müssen aber alle vernetzt werden, und wer 100 GB/s Ehthernet oder gar noch schnelleres Infiniband ausnutzen will, braucht nochmal eine ganze Menge PCIe Lanes. Und auch SSD-Caches hängen an PCIe....
Klar, man könnte natürlich auch Intel kaufen. Für manche Anwendungen macht das auch immer noch Sinn. Aber wer möglichst viele Ampere Karten kosteneffektiv einbinden will, nimmt sich im Moment zumindest wirklich einfach einen Epyc, die Dinger sind verhältnismäßig Spottbillig und erfüllen ihren Zweck hervorragend. Man kauft also im Prinzip nur den IO-Die, und missbraucht die Zen-2 Kerne zum Daten verteilen- und aufbereiten