AMD ROCm 7: Mehr Performance, leichtere Installation und eine Cloud für alle
AMD stellt ROCm 7 vor, mit der KI-Inferenz und -Training eine dreifache Verbesserung erleben sollen. Zeitgleich erweitert das Unternehmen sein KI-Ökosystem um eine Developer Cloud, mit der interessierte Entwickler einen begrenzten Gratiszeitraum zum Testen erhalten.
AMD hat auf der vergangenen "Advancing AI"-Keynote die siebte Generation seiner ROCm-Software-Plattform vorgestellt, mit der eine Verdreifachung der Performance und frische Features anstehen. Parallel zu ROCm 7 führt das Unternehmen die "AMD Developer Cloud" ein, um Entwicklern einfacheren Zugang zu leistungsstarker Hardware zu ermöglichen.
Von ROCm 6 auf 7 geht es um den Faktor drei hoch
Die wohl wichtigste Neuerung von ROCm 7 sind die versprochenen Performance-Verbesserungen gegenüber der Vorgängerversion: AMD nennt eine 3,5-fache Steigerung bei Inferenz-Aufgaben und eine dreifache Verbesserung beim Training von KI-Modellen im Vergleich zu ROCm 6. Die Benchmarks basieren auf Tests mit acht AMD Instinct MI300X GPUs und umfassen verschiedene große Sprachmodelle wie Llama 3.1-70B, Qwen 72B und Deepseek-R.
Bildergalerie
Neue Funktionen für Enterprise-Einsätze
Das im dritten Quartal 2025 allgemein verfügbare ROCm 7 soll dabei so einfach wie der Linux-Befehl "pip install rocm" installierbar sein. Neben der verbesserten Performance nennt AMD in der zugehörigen Mitteilung drei weitere "bemerkenswerte Features", die mit ROCm 7 auf Entwickler warten:
- Der erste Schwerpunkt liegt auf verteilter Inferenz, die durch Kooperationen mit Open-Source-Frameworks wie SGLang, vLLM und llm-d ermöglicht wird. Diese Zusammenarbeit soll die Skalierbarkeit für große KI-Anwendungen verbessern.
- Ein weiterer wichtiger Baustein ist "ROCm Enterprise AI", eine neue MLOps-Plattform für Unternehmensumgebungen. Diese Lösung umfasst Tools für die Feinabstimmung von Modellen mit branchenspezifischen Daten und die Integration in strukturierte und unstrukturierte Arbeitsabläufe.
- Zudem weitet AMD die ROCm-Unterstützung über Cloud-Infrastrukturen hinaus aus. Ab der zweiten Jahreshälfte 2025 wird ROCm 7 auch auf Ryzen-Laptops und Workstations verfügbar sein.
AMD Developer Cloud startet weltweit
Parallel zu ROCm 7 hat AMD die Developer Cloud gestartet, die sofortigen Zugang zu AMD Instinct MI300X GPUs bietet. Entwickler können zwischen verschiedenen Konfigurationen wählen: kleine Instanzen mit einer einzelnen Instinct MI300X mit 192 GiB GPU-Speicher oder große Set-ups mit bis zu acht MI300X-GPUs (1.536 GiB GPU-Speicher).
Die Plattform umfasst vorkonfigurierte Docker-Container mit populärer KI-Software und bietet 25 kostenlose Stunden für "qualifizierte Entwickler". Zusätzlich können Interessierte über Programme wie das ROCm Star Developer Certificate bis zu 50 weitere Stunden erhalten. Die Cloud unterstützt dabei bereits Day-Zero-Integration für kommende MI350-Systeme mit Ökosystem-Partnern wie vLLM, SGLang und verschiedenen KI-Laboren.
