Nvidia: Mehr GPUs für Datacenter und Profisparte statt Gaming [Gerücht]
Aufgrund einer hohen Nachfrage nach Datacenter- und Profi-GPUs will Nvidia dort nun angeblich verstärkt die für die Geforce-Grafikkarten genutzten AD-GPUs einsetzen. Schlimmstenfalls könnte das die Verfügbarkeit der RTX-4000-Grafikkarten beeinträchtigen.
Finanziell läuft es für Nvidia gerade gut. Im ersten Quartal hatte das Unternehmen zwar "nur" knapp 7,2 Milliarden US-Dollar Umsatz, für das laufende Quartal sind die Aussichten aber mehr als rosig. Stolze 11 Milliarden US-Dollar will das Unternehmen verdienen und damit den bisherigen Rekord von 8,3 Milliarden deutlich übertreffen. Grund dafür ist aber nicht die Gaming-Sparte, sondern Datacenter- und Profi-Grafikkarten. Und das könnte angeblich zulasten des Gaming-Markts gehen.
Ein anderer Fokus
Grundlage für diese Annahme ist ein Video des Youtube-Kanals Moore's Law Is Dead, der als Einleitung - 20 Sekunden nach Videobeginn - ein angebliches Zitat eines Nvidia-Mitarbeiters einblendet. Demnach rettet die immense Nachfrage nach KI-Hardware im Moment die Geschäftszahlen, da so die niedrige Nachfrage nach Gaming-Produkten aufgefangen wird.
"Let's be clear, this AI Boom is what's bailing us out right now. We cannot manufacture enough Hopper and A100 to satisfy demand. In fact, we're currently shifting as much AD102, AD103, and AD104 supply as we can to Data Center and Professional Visualization (from Gaming) in response. This is how we're going to make next quarter look good as well despize dismal sales in the gaming sector."
"Um es klar zu sagen: Dieser KI-Boom ist das, was uns im Moment aus der Bredouille bringt. Wir können Hopper und A100 nicht schnell genug herstellen, um die Nachfrage zu befriedigen. Tatsächlich verlagern wir derzeit so viel AD102, AD103 und AD104 wie möglich in die Bereiche Rechenzentren und professionelle Visualisierung (von Gaming), um zu reagieren. Auf diese Weise werden wir das nächste Quartal gut aussehen lassen und die schwachen Verkäufe im Gaming-Sektor kompensieren."
Demnach übersteigt die Nachfrage nach Hopper- und A100-Grafikkarten für Rechenzentren deutlich die Produktionskapazitäten. Als Notlösung müssen deshalb angeblich die GPUs AD102, AD103 und AD104 herhalten, auf denen auch die RTX-4000-Grafikkarten basieren. Diese will Nvidia offenbar für Profi- und Server-Produkte einsetzen, um so die Nachfrage bedienen zu können.
Passend zum Thema: Nvidia: Umsatzausblick lässt Aktie explodieren - aber nicht wegen Geforce
Eine derartige Verschiebung weckt die Sorge, dass Nvidia das Gaming-Segment künftig vernachlässigen könnte. Schließlich lassen sich für Profi-GPUs deutlich höhere Preise verlangen, sodass ein Verkauf im Gaming-Markt vergleichsweise unattraktiv ist. Selbst falls sich ein Nvidia-Mitarbeiter tatsächlich so geäußert hat, müsste die Verlagerung aber nicht zwangsläufig zu einer Unterversorgung des Grafikkarten-Marktes führen. Schließlich ist die Nachfrage nach Geforce-Grafikkarten derzeit ohnehin gering, und AMD dürfte eine eventuelle Lücke jederzeit bereitwillig füllen. Eine Situation wie vor zwei Jahren ist damit wohl nicht zu befürchten.
Quelle: Moore's Law Is Dead (Youtube) via 3D Center

Python nutzt CUDA um das Training auf der GPU zum Laufen zu bekommen.
Python als Ganzes hat unter der Haube viele andere Sprachen, die weitaus effizienter sind.
Klar, du kannst das auch mittlerweile auf ausgewählten AMD Karten mittels ROCm betreiben. Oder auf der CPU.
Aber das ist ungefähr so wie wenn es ab morgen nur mehr die Wahl zwischen VW und Lada auf dem Automarkt gibt.
Lada ist theoretisch auch ein Auto, aber den kaufst du eher nur, wenn du keinen VW bekommen kannst. (Und das sage ich als jemand der VW abgrundtief verabscheut, schon lange vor dem Dieselskandal)
Aber vielleicht reden wir auch aneinander vorbei.
Wo widerspreche ich mir selbst?
Eine Monopolstellung wäre, wenn Cuda notwendig wäre und dem ist doch nicht so.
Es müssen doch nur AMD und intel schauen, dass der Code auf ihren GPUs auch optimal dann umgesetzt wird durch ihren Softwarestack.
Aber vielleicht reden wir auch aneinander vorbei.
Sie hätten eigentlich ihre FPGAs mehr pushen müssen, so wie das Xilinx gemacht hat.
Zumal so Hersteller wie Microsoft und Google sich da ja nur ungerne abhängig machen.
Wo widerspreche ich mir selbst?
ML Modelle benötigen idR einen Haufen Speicher und Computepower und laufen entsprechend gut auf GPUs.
Von wem gab es die letzten 15 Jahre GPUs? Nvidia und AMD.
Wie wollen die "anderen Hersteller" das auch "hinkriegen" wenn es bisher niemand anderen gab?
Nvidia hatte eben die Vorraussicht, sich in dem Segment zu etablieren und kam den Forschern mit eigenen APIs entgegen und sich dann teilweise schon in die Frameworks gesetzt.
Stell es dir eventuell so vor (stark runtergebrochen natürlich): die Unreal Engine ist pytorch, das Spiel ist ein entsprechendes Modell/Projekt, die CUDA-Unterstützung ist direkt eingebackene Drawcalls, RT, Optimierung...
Heißt ich muss als Entwickler nur die Library importieren und CUDA nimmt mir eine Tonne Arbeit ab.
Dass Microsoft, Google und Co. gerne aus dieser Abhängigkeit rauswollen, nun da sie ihre eigene Hardware anpeilen und Kohle riechen, darauf will ich ja hinaus.
Bisher hat es sich (großteils) eben nicht gerechnet, spezialisierte ML-FPGAs zu entwickeln. Da kauft man lieber 2-3 Karten mehr für den Cluster zu einem Bruchteil des Preises.
Was den Blackbox-Punkt angeht: Idealerweise hab ich so wenig Abstraktionsebenen wie möglich und so viel Kontrolle wie möglich. Heißt Google bspw. wird versuchen den eigenen Code direkt in Instruktionen umzuwandeln, während man sich derzeit nocht auf CUDA verlassen muss, in dass man weder Einblick noch Einfluss hat.
Sie verkaufen tolle Technologie zu Marktpreisen, sparen beim Speicher dort wo AMD bei Features, Effizienz unterlegen ist.
Kann ich nichts verwerfliches erkennen. Aber man möchte sich halt aufregen.
Solche alternativen Erklärungen tauchen vor allem in Nvidia Threads auf und leiern ihr alternatives Verständnis des GPU Marktes rauf und runter.
Du glaubst doch nicht allen ernstes AMD hätte ihre 24GB RX 7900XTX ohne Nvidia Konkurrenz für 999 Dollar vermarktet?