AMD Instinct MI350: KI-Monster mit 288 GiByte und 1.400 Watt
Im Rahmen seiner Hausmesse Advancing AI hat AMD seine beiden neuen KI-Beschleuniger aus der Instinct MI350 Series vorgestellt. Die Instinct MI355X und MI350X setzen auf 288 GiByte HBM3e-Speicher und dürfen bis zu 1.400 Watt aufnehmen.
Im Rahmen seiner KI-Hausmesse Advancing AI hat AMD wie erwartet seine beiden neuen KI-Beschleuniger aus der Instinct MI350 Series auf Basis der neuen Architektur CDNA 4 vorgestellt. Die AMD Instinct MI355X und Instinct MI350X setzen auf einen Speicherausbau mit 288 GiByte HBM3e und dürfen bis zu 1.400 Watt aufnehmen.
Mit der Vorstellung der AMD Instinct MI355X und Instinct MI350X ist der Vorgänger, die Instinct MI325X, welche erst im Oktober 2024 vorgestellt wurde, schon wieder obsolet, denn die beiden neuen CDNA-4-Beschleuniger sollen jetzt umgehend ausgeliefert werden. Im Hinblick auf Leistung und Effizienz verspricht das Unternehmen einen großen Sprung und zielt auf Nvidia Blackwell ab.
Quelle: AMD
Wie diverse Hersteller-Benchmarks versprechen, soll die MI355X eine MI300X unter Verwendung von Llama 3.1 405B um den Faktor 2,8 bis 4,2 schlagen, vergleicht hier aber FP4- mit FP8-Performance. Die AMD Instinct MI355X und die Instinct MI350X unterscheiden sich nur durch die TDP, denn während die MI350X "nur" 1.000 Watt aufnehmen darf, lässt AMD die Instinct MI355X mit 1.400 Watt von der Leine.
Quelle: AMD
Die beiden KI-Beschleuniger verfügen über jeweils 288 GiByte HBM3e-Speicher, welcher mit 8 Terabyte pro Sekunde angebunden ist und sich dabei aus insgesamt acht 36 GiByte große Speicherstapel ("Stacks") zusammensetzt. Erstmals kommt mit der CDNA-4-Architektur der professionelle Ableger der RDNA-4-Architektur zum Einsatz. Damit soll sich auch die Blackwell-Architektur angreifen lassen.
Nvidia wird mit dem GB300-Beschleuniger auf Basis von "Blackwell Ultra" aber schon bald zum großen Konter ausholen und sich seinerseits wieder an der Spitze des allgegenwärtigen KI-Wettrennens sehen. Es bleibt weiterhin spannend.
Quelle: AMD
AMDs Instinct MI355X und Instinct MI350X können zudem auf einem sogenannten Universal Baseboards ("UBB") zu jeweils acht KI-Beschleunigern zusammengefasst werden und bieten dann einen Speicherausbau von 2.304 GiByte HBM3e-Speicher.
AMD Avancing AI 2025
Ihre Meinung ist gefragt!
Wie stehen Sie zu diesem Thema? Die PCGH-Redaktion freut sich über Ihre fundierte Meinung in den Kommentaren zu dieser Meldung. Um zu kommentieren, müssen Sie auf PCGH.de oder im Extreme-Forum eingeloggt sein. Sollten Sie bisher noch keinen Account haben, könnten Sie sich hier unverbindlich registrieren. Beachten Sie beim Kommentieren aber bitte die geltenden Forenregeln.
Quelle: AMD
Aber ja die SW ist natürlich super schlecht, weil von AMD, ich vergaß...
Von der Software von der du ja nicht reden willst, haben sie über das letzte Jahr hinweg massive Fortschritte gemacht indem sie auf Kritik eingegangen sind und dementsprechend in den letzten Monaten auch viel Lob bekommen haben.
Aber ja die SW ist natürlich super schlecht, weil von AMD, ich vergaß...
[Ins Forum, um diesen Inhalt zu sehen]
Aber immer wieder amüssant Argumente zu fordern und gleichzeitig kein einziges zu liefern. Des Weiteren habe ich dir mit dem Oracle Beispiel eins geliefert.
Aber wenn du dir mal die Mühe gemacht hättest und nachzuforschen, würdest du feststellen dass die Anzahl die AMD hier an Oracle liefert für einen Kunden, ich wiederhole mich, für einen Kunden durchaus eine sehr große Bestellung ist.
Ergo davon zu sprechen AMD würde nichts auf die Reihe kriegen und kaum was ausliefern ist purer hate.
Aber scheinbar liest du deine Quellen dann wohl doch nicht so genau
Der Unterschied auf den du vermutlich anspielen wolltest, ist die Vermaschung und Kommunikation von mehreren Racks zu einer großen Clusterlösung die es so wie Nvidia sie aktuell liefert erst nächstes Jahr von AMD geben wird.
Im übrigen möchte intel dies nächstes Jahr auch liefer, die aktuell noch rein gar nichts im AI Game beisteuern.
Aber offensichtlich scheint es der Markt etwas anders zu sehen, sonst hätte Oracle wohl kaum 132072 MI 355X gekauft.
[Ins Forum, um diesen Inhalt zu sehen]
Und wer hat gesagt das AMD nix ausliefert, sonst könntens den Läden eh zusperren, sind halt nix gegen die Mio Nvidia gpus...
Den Satz mit den racks verstehe ich nicht wirklich. AMD macht das doch auch. Was meinst du denn genau, was Nvidia anders macht?
Nvidia kann schon auf rackgröße gpus zusammen schalten, das ist nochmal eine andere Dimension. Von Software reden wir erst gar nicht.
Aber offensichtlich scheint es der Markt etwas anders zu sehen, sonst hätte Oracle wohl kaum 132072 MI 355X gekauft.
[Ins Forum, um diesen Inhalt zu sehen]