Nvidia wehrt sich im KI-Schaukampf: AMDs Instinct MI300X soll viel langsamer sein
Nachdem AMD der Instinct MI300X eine höhere Leistung als Nvidias Konkurrenzmodell attestiert hatte, schlägt das Unternehmen nun zurück.
Auf dem kürzlich abgehaltenen "Advancing AI"-Event hat AMD die beiden Beschleuniger-Grafikkarten Instinct MI300X und Instinct MI300A offiziell vorgestellt. Mit ebendiesen Produkten will das Unternehmen künftig Nvidias KI-Beschleunigern - allen voran dem H100 - das Wasser abgraben. Passend dazu wurden Benchmarks präsentiert, laut denen die neuen Instinct-Modelle in einigen Szenarien schneller als die Konkurrenz sind.
Alles anders - angeblich
Nvidia bläst jetzt zum Gegenangriff und hat eigene Benchmarks präsentiert. Der Vorwurf: AMD soll die H100 ohne optimierte Software betrieben haben, tatsächlich soll das genutzte KI-Modell doppelt so schnell arbeiten. Passend dazu zeigt ein Nvidia-Benchmark die Performance im KI-Sprachmodell Llama 2 70B. Das Unternehmen ließ dabei acht H100-GPUs gegen acht MI300X-GPUs antreten, und angeblich ist das H100-Gespann - mit einem darauf optimiertem Modell - so ein gutes Stück schneller.
Quelle: AMD
Laut AMD ist die MI300X in einigen Szenarien etwas schneller als Nvidias H100.
Quelle: Nvidia
Nvidias Antwort ist ein Benchmark, der der H100 eine wesentlich höhere Leistung attestiert.
Zudem hat Nvidia die H100-GPUs mit mehreren Batches, also aneinandergekoppelten Ausführungen gleichzeitig, getestet - und erreicht damit dann eine noch höhere Performance. Dem AMD-Modell wurde diese Gelegenheit hingegen nicht gegeben, der Benchmark hat also einen faden Beigeschmack. Am Ende werden deshalb, wie üblich, unabhängige Benchmarks über die Produkte urteilen müssen.
Zuletzt zum Thema: Großangriff auf Nvidia: AMD wappnet sich mit den Instinct MI300 und bis zu 1,5 TByte HBM3-Speicher für das KI-Wettrüsten
Quelle: AMD
Zumindest auf dem Papier hat AMDs MI300X klar die Nase vorn. In der Praxis ist zudem aber wichtig, wie gut die rohe Rechenleistung tatsächlich ankommt.
Unabhängig von etwaigen Performance- und Software-Unterschieden ist AMDs MI300X zumindest auf dem Papier beeindruckend: Mit 192 GB HBM3-Speicher wird mehr als das doppelte als bei der H100 geboten, und auch die theoretische Rechenleistung liegt deutlich höher. Zumindest manche Anwendungsfälle, in denen AMDs Grafikkarte deutlich vorne liegt, wird es damit sicher geben. Alles Weitere wird die Zukunft zeigen, wenn sich die Mi300X zunehmend am Markt etabliert.
Quelle: Nvidia via Tom's Hardware
Da war es nur eine Frage der Zeit, bis AMD zum Angriff ansetzt. Und selbst dann hatten sie es mit ZEN1 und ZEN2 gar nicht so leicht und lagen bei der Pro Kern performance erst noch zurück.
Nvidia hingegen hat bei den KI beschleunigern jedes mal mit Superlativen geprotzt und große Sprünge hingelegt.
Es ist einfach nur eine Frage des gesunden Menschenverstandes, dass man Nvidia hier nicht einfach so überholt.
Ich sage ja nicht, dass es ausgeschlossen ist. Ich sage nur, dass in der Situation einfach die Wahrscheinlichkeit dass das gelingt viel geringer ist und falls es doch stimmt ne absolute wahnsinns Leistung von AMD wäre.
Hier ist jeder Zweifel berechtigt. Nicht, weil man es AMD nicht zutrauen oder gönnen würde, sondern weil die bisherige Situation nunmal so ist, wie sie ist.
Zu glauben, dass der Underdog aus dem Nichts den Martführer einfach so überholt ist halt naiv. Selbst wenn es am ende die Wahrheit ist und die Leute, die es glauben Recht haben sollten, ohne unabhängige Benchmarks ist es eine naive Sichtweise.
Dazu kommt das Effizenz in dem Anwendungsbereich keine primäre Rolle spielt. Reine Berechnungsleistung steht hier überallem. Dazu kommt im Falle der aktuellen AMD Lösungen ein massive Ramvorteil auf ihren KI Karten. Der sicher einen nicht unerheblichen Anteil haben dürfte das ihre KI Beschleuniger scheinbar recht stark performen. Bandbreite ist wie früher Hubraum. Manchmal einfach schwer zu ersetzten ausser durch noch mehr davon.