AMD ROCm: Offene KI- und ML-Plattform wird sich ab Herbst auf Radeon unter Linux mit Nvidia CUDA messen
AMD arbeitet aktuell daran, seinen quelloffenen CUDA-Konkurrenten ROCm auch für die Privatanwender zugänglich zu machen und auf handelsüblichen Radeon-Grafikkarten für Consumer lauffähig zu machen. Damit werden dann bald auch Endanwender von ML-Frameworks wie TensorFlow und PyTorch für entsprechende KI-Workloads profitieren. Der Startschuss fällt im kommenden Herbst mit der Radeon RX 7900 XTX.
AMD arbeitet derzeit daran, ROCm, eine quelloffene Compute-Plattform für künstliche Intelligenz und maschinelles Lernen sowie die entsprechenden Workflows, auch für Endanwender mit Linux zugänglich zu machen und zudem Unterstützung für die hauseigenen Consumer-Grafikkarten der Gaming-Serie Radeon hinzuzufügen.
ROCm (auch) für den privaten Einsatz
Wie der Hersteller jetzt über seinen Community-Blog mitgeteilt hat, wird aktuelle Radeon RX 7900 XTX im Herbst dieses Jahres den Anfang machen und die mächtige ROCm-Plattform erstmals auf Consumer-Hardware unter Linux lauffähig machen, während eine Umsetzung für Windows ebenfalls in der Mache ist. Neben der Consumer-Grafikkarte wird nun auch die Radeon PRO W7900 unterstützt.
ROCm ist bereits im professionellen Einsatz
Aktuell kommt ROCm ausschließlich auf Profi-Beschleunigern wie der AMD Instinct MI250, einer CDNA-2-Compute-GPU mit 128 GB HBM2e und Infinity Fabric Links auf einem Multi-Chip-Package, Systemen mit AMD Epyc und der Radeon Pro W-Serie exklusiv unter freien Betriebssystemen auf Basis von Linux zum Einsatz.
Quelle: AMD
Quelle: AMD
CUDA-Konkurrenz auch im Privatbereich
Anders als es Nvidia mit CUDA praktiziert, hat AMD seine KI- und ML-Plattform Radeon Open Compute ("ROCm") bereits am 14. November 2016 als Open Source freigegeben. Die quelloffene Software ist für GPU-Computing unter Linux vorgesehen und nutzt dazu unter anderem die ML-Frameworks TensorFlow und PyTorch. Zudem stehen die beiden ML-Bibliotheken MIOpen für Hochleistungs-ML-Primitive sowie MIVisonX für die Implementierungen von Khronos OpenVX und OpenVX für die mannigfaltigen professionellen KI- und ML-Anwendungsbereiche bereit.
Quelle: AMD
AMD ROCm - AI Software Stack mit TensorFlow, PyTorch und ONNX
AMD ROCm ist insbesondere für ML-Workflows aus den nachfolgenden KI-gestützten Bereichen ausgelegt:
- Biowissenschaften
- Arzneimittelforschung
- Automatisierung und Robotik
- Bild- und Videoerkennung
- Autonomes Fahren
Zudem werden Containerisierung-Tools wie Docker, Singularity, Kubernetes und Slurm über Erweiterungen unterstützt, was System- und Workloadbereitstellungen einfacher und effizienter macht. Vorkonfigurierte Docker-Container sind ebenfalls bereits vorhanden, was die ML-Anwendungsentwicklung beschleunigt.
ROCm soll auf Radeon auch unter Windows laufen
Das gesamte Featureset der ROCm-Plattform, welches bis jetzt auf professionelle Workstation- und Server-Grafikkarten beschränkt war, möchte AMD jetzt auf seinen Consumer-Grafikkarten der Serie Radeon unter Windows 10/11 laufen lassen. Damit stünden dann Allzweck-Computing auf Grafikprozessoren, Hochleistungs-Computing, heterogenes Computing sowie die Programmiermodelle HIP, OpenMP/Message Passing Interface und OpenCL auch im privaten Umfeld zur Verfügung.
Whitepaper bestätigt AMDs Pläne
"Ja, wir arbeiten aktuell daran, ROCm für Windows verfügbar zu machen", sagte Forrest Norrod, Senior Vice President und General Manager von AMDs Datacenter and Embedded Solutions Business Group, während eines Interviews mit c't. "Wir werden auch Unterstützung für andere Teile unseres Radeon-Portfolios hinzufügen", fügte Forrest Norrod hinzu und bestätigte damit, was einem für kurze Zeit öffentlich zugänglichen Whitepaper ohnehin bereits entnommen werden konnte.
Demnach sollen die nachfolgenden Beschleuniger und Grafikkarten die neueste Version 5.6.0 von ROCm unterstützen:
- AMD Instinct
- Instinct MI250X
- Instinct MI250
- Instinct MI210
- Instinct MI100
- Instinct MI150
- AMD Radeon
- Radeon Pro V620
- Radeon Pro W6800
- Radeon PRO W7900*
- Radeon RX 7900 XTX*
- Radeon RX 6900 XT*
- Radeon RX 6600*
- Radeon R9 Fury*
*) erstmals offiziell unterstützt!
In der Zwischenzeit führt auch die ROCm-Projektseite auf GitHub die drei ersten Radeon-Grafikkarten ganz offiziell in der GPU-Supportliste.
Ihre Meinung ist gefragt!
Wie stehen Sie zu diesem Thema? Die PCGH-Redaktion freut sich über Ihre fundierte Meinung in den Kommentaren zu dieser Meldung. Um zu kommentieren, müssen Sie auf PCGH.de oder im Extreme-Forum eingeloggt sein. Sollten Sie noch keinen Account haben, könnten Sie sich hier unverbindlich registrieren.
Quelle: AMD
- ROCm funktioniert schon heute offiziell unter diverser Consumer Hardware. Inoffiziell sind es noch mehr. Beispielsweise funktioniert meine RX6800XT mit ROCm "inoffiziell" ohne grosse Hürde in Linux, weil es eine gfx1030 ist. Ist einfach nicht offiziell, weil sie diese nicht testen. Alternativ kann man auch versuchen, seine Karte per Umgebungsvariable gegenüber ROCm zu "faken" (ja, der Entwickler hat das extra so eingebaut, damit man nicht einfach vor verschlossener Türe steht). Viele funktionieren dann tatsächlich.
- Ich gehe davon aus, dass auch die RX6900XT (gfx1030) schon seit längerem funktioniert. Einfach nicht offiziell. Sonst würde meine RX6800XT ja auch nicht gehen.
- ROCm unter Linux zu installieren ist hochgradig Nerd-Gebiet. Stable Diffusion darauf zum Laufen zu bringen ist alles andere als "doppelklicken und läuft". Wer keine IT-Affinität bei Installationen hat und auf der bash nicht basteln mag, sollte es gar nicht erst versuchen.
- AMD sagt schon seit einem halben Jahr, dass ROCm unter Windows laufen soll. Das war die typische Schnellschuss-Reaktion auf ChatGPT, Stable Diffusion, GPT4All und so weiter. Das ist weder eine neue Nachricht noch können wir davon ausgehen, dass es in den nächsten paar Wochen passieren wird. Wer was anderes behauptet, soll mal schauen, was für "Fortschritte" diese Ecke auf Github macht...
CUDA funktionierte auf meiner RTX2070 Super schon seit Beginn. Auf Windows wie Linux. Da war denn auch nie die Diskussion, dass nur ganz spezielle Grafikkarten in CUDA funktionieren "dürfen". Zumindest diesen Teil ist bei NVidia immer noch so. Deshalb wird auch auf allen RTX40X0 Karten so sein. Und zwar vom ersten Moment an, wo sie auf dem Markt zu haben sind und nicht Jahre später vielleicht oder dann doch nie.
AMD hat ein Managerproblem. Die labern andauernd und machen Versprechungen. Davon wird aber so gut wie nichts gehalten. Der Grund wird nicht sein, dass sie keine fähigen Entwickler haben. Das Problem wird sein, dass die Manager ihnen immer in den Rücken fallen, wenn die Versprechungen an die Kunden machen, welche die Entwicklungsabteilung nicht halten kann.
Ich habe mir eine RX6800XT gekauft, weil die einfach ein Super Preis-Leistungs-Verhältnis hatte (und immer noch hat) und ich das Preisspiralspiel von NVidia nicht mehr unterstützen wollte. Davor hatte ich jahrzehntelang NVidia. Neben vielen lobenden Worten, die mir zu Adrenalin und den Features dort einfallen, nerven mich die ewigen Versprechungen der Möchtegernmanager am meisten, die schlussendlich nicht gehalten werden (können).
Wenn FSR3 auf der RX6800XT "offiziell" nicht funktionieren sollte, weil sie das "DDR3-Game" von NVidia bei den RTX40X0 Karten mitspielen wollen, dann wird meine nächste Karte mit Garantie keine mehr aus dem Team Red sein. Selbst wenn sie halb so viel kostet.
Wäre cool, wenn das Teil von OpenCL werden würde. Quelloffen ist zwar sehr schön, aber noch schöner wäre es, wenn es keine eigene Plattform, sondern eine Implementierung einer offenen Schnittstelle wäre. Naja, vielleicht kann diese Plattform ja die Schnittstelle vorgeben. Eine kurze Suche ergibt, dass die beiden auch schon in irgendeiner Form aufeinander aufbauen.
[Ins Forum, um diesen Inhalt zu sehen]
Spannend für Heimanwender auf der Navi 31 Karte allemal.