Grafikkarten: Neue Speichererweiterung per PCI-E und SSD vorgestellt
Um den auf Grafikkarten vorhandenen Speicher zu erweitern, hat das Unternehmen Panmnesia eine neue Lösung auf CXL-Basis vorgestellt, die DRAM oder NAND per PCI-E und SSDs nutzen kann.
Das von einem breiten Industriekonsortium gestützte CXL-Protokoll (Compute Express Link) steht schon seit einer Weile in den Startlöchern, um CPUs, GPUs und FPGAs zukünftig näher aneinander zu bringen, wobei mit der Speichererweiterung per PCI-Express (PCI-E) schon 2021 ein möglicher Anwendungsfall von Samsung präsentiert wurde.
Jetzt hat das Unternehmen Panmnesia eine weitere CXL-Lösung zur Speichererweiterung mit niedriger Latenz vorgestellt, wovon vor allem Grafikprozessoren für KI- und HPC-Anwendungen mit ihrer begrenzten Menge an integriertem High-Bandwidth-Memory (HBM) profitieren könnten, wie Tomshardware hierzu berichtet.
Panmnesia, das vom renommierten südkoreanischen KAIST-Forschungsinstitut unterstützt wird, stand dem Bericht nach vor einer Herausforderung, um CXL für die GPU-Speichererweiterung zu integrieren, da es keine CXL-Logikstruktur und keine Subsysteme gibt, die DRAM- und/oder SSD-Endpunkte für GPUs unterstützen.
Darüber hinaus erkennen die Cache- und Speichersubsysteme von Grafikprozessoren keine Erweiterungen außer Unified Virtual Memory (UVM), das als langsam gilt. Demnach muss die Technologie von einem ASIC (application-specific integrated circuit) und seinem Subsystem erkannt werden, sodass das bloße Hinzufügen eines CXL-Controllers nicht ausreicht, um die Technologie zum Laufen zu bringen, insbesondere bei einer GPU, heißt es.
Quelle: panmnesia.com
Grafikkarten: Neue Speichererweiterung per PCI-E und SSD (2)
Panmnesias CXL-Lösung mit niedriger Latenz
Um dieses Problem zu lösen, hat Panmnesia einen CXL 3.1-kompatiblen Root-Komplex (RC) entwickelt, der mit mehreren Root-Ports (RP) ausgestattet ist, die externen Speicher über PCI-E unterstützen, sowie eine Host-Bridge mit einem HDM-Decoder (Host-managed Device Memory), der wiederum mit dem Systembus der GPU verbunden ist. Der HDM-Decoder, der für die Verwaltung der Adressbereiche des Systemspeichers verantwortlich ist, lässt das Speichersubsystem der GPU im Wesentlichen glauben, dass es mit dem Systemspeicher zu tun hat, aber stattdessen verwendet das Subsystem per PCI-E verbundenen DRAM oder NAND. Dadurch wären beispielsweise DDR5-RAM oder SSDs als Erweiterung des GPU-Speicherpools nutzbar.
Quelle: panmnesia.com
Grafikkarten: Neue Speichererweiterung per PCI-E und SSD (3)
Schneller als UVM und Samsungs CXL
Umfangreiche Tests von Panmnesia sollen der Technik eine Latenzzeit im zweistelligen Nanosekundenbereich bescheinigen (im Vergleich zu 250 ns zu dem von Samsung entwickelten Prototypen, der in der Benchmark-Grafik als CXL-Proto bezeichnet wird). Die benötigte Zeit soll auch die Protokollumwandlung zwischen Standard-Speicheroperationen und CXL-Flit-Übertragungen beinhalten.
Mangels Overhead und den direkten Zugriff auf den erweiterten Speicher über Lade-/Speicherbefehle soll die Ausführungszeit von CXL-Proto 1,94 Mal kürzer als von UVM sein, während das hauseigene CXL-Opt von Panmnesia die Ausführungszeit um das 1,66-fache niedriger halten soll. Die während der GPU-Kernel-Ausführung aufgezeichneten IPC-Werte sollen für CXL-Opt von Panmnesia eine 3,22-fache beziehungsweise 1,65-fache Leistungsgeschwindigkeit gegenüber UVM respektive CXL-Proto vorweisen. Die erfolgreiche Integration sowohl in Speichererweiterungen als auch in GPU/CPU-Prototypen auf Hardware-RTL-Ebene soll indes die Kompatibilität mit verschiedener Computerhardware beweisen.
Quelle: panmnesia.com
Grafikkarten: Neue Speichererweiterung per PCI-E und SSD (4)
CXL und die Zukunft im Consumer-Bereich
Laut Tomshardware birgt die CXL-Unterstützung großes Potenzial für KI/HPC-GPUs, jedoch bleibt abzuwarten, ob Unternehmen wie AMD und Nvidia ihren GPUs den entsprechenden Support hinzufügen werden. Sollte sich der Ansatz der Nutzung von PCI-E-Speicher für GPUs durchsetzen, bliebe zudem abzuwarten, ob die Hersteller proprietäre Lösungen von Unternehmen wie Panmnesia tatsächlich verwenden oder einfach ihre eigene Technologie entwickeln. AMD hatte 2022 in Aussicht gestellt, dass es CXL in drei bis fünf Jahren auch in Desktop-Chips geben soll.
IIhre Meinung ist gefragt!
Was sagen Sie zur neuen CXL-Speichererweiterung? Nutzen Sie die Kommentarfunktion und teilen Sie uns Ihre Meinung mit. Zum Kommentieren müssten Sie auf PCGH.de oder im Extreme-Forum eingeloggt sein. Sollten Sie noch keinen Account haben, könnten Sie über eine Registrierung nachdenken, die viele Vorteile mit sich bringt. Beachten Sie beim Kommentieren aber bitte die gültigen Forenregeln.
....💭
😀
Meine RTX 7070 hat 20 GB und später rüste ich dann auf 32 GB VRAM auf.
[Ins Forum, um diesen Inhalt zu sehen]
Was will man denn mit SSD-Speicher, außer für Spezialanwendungen wo man dauerhaft die gleichen Daten als Read-Only hat macht das doch gar keinen Sinn, wegen des Verschleißes. Gibt es aber schon in Serie mit der Radeon Pro SSG.
Zum Spielen und für typische Szenarien macht nur DRAM Sinn.
Was will ich mit einer GPU bei der dann der vRAM zu langsam ist?
Für AutoCAD, klar, läuft der vRAM bei dem grottenschlecht optimierten Programm voll, ist es egal, wenn der zusätliche etwas langsamer ist, hauptsache er wird nicht voll... aber bei Games?
1. Wenn der RAM kaputt ist, ist das Board kaputt und umgekehrt. Sprich bei jedem kleinen Komponentenversagen kannst du das komplette Board einschließlich RAM rauschmeißen. Sehr Nachhaltig!*
2. Und Tschüss Aufrüstbarkeit, du willst 32 statt 16GB, kauf ein neues Board! Du willst von 32 auf 64GB, neues Board!
64 auf 128 GB, neues Board. Edit: Oh du willst deine bevorzugte Speicheraustattung mit der von dir Gewünschten Austattung, wie mehr M.2 Slots besserem Sound, besserer Netzwerkchip? Anderes Board.
3. Daraus folgend Übersichtlichkeit. Ich repariere täglich Labtops und da kann es sein, dass es für ein Modell ca. 32 verschiedene Boards gibt die sich minimal in der Austattung unterscheiden, aber alle nicht kompatibel sind. Und dann gibt es da noch die späteren Versionen die alle eine andere Partsnumber haben. Und nicht mal der Hersteller kann seine Kompatibilitätsliste aktuell halten.
4. Potenzial ist Potenzial=etwas das sein könnte aber noch nicht da ist. Real halten weder CAMM noch LPDDR (bei welchen es auch um den Stromverbrauch geht) nicht mit der Leistung der DIMMs mit.
Edit2: 5. Du musst genau den RAM kaufen/benutzen, den dir der Hersteller vorgibt und kannst keinen anderen nehmen. Besseren RAM gefunden, pech gehabt? Eines mit gleicher Leistung aber kleinerem Preis, Pech gehabt!
Wieso gibt es so viele Leute die den großen Vorteil des Desktops, dass wir aufrüsten und Teile wiederverwenden können, so leichtfertig aufgeben?
Da ist ja CAMM in der Einzelmodulausführung eine bessere Idee....
Und die Vorschläge von [Ins Forum, um diesen Inhalt zu sehen] und [Ins Forum, um diesen Inhalt zu sehen] sind um Längen besser. Nur dass müssten wir, wenn schon per Gesetz durchprügeln, da ich Schätze, dass sich alle drei Grafikkartenhersteller (im Gamingbereich) sperren würden, denn dann wäre es vorbei mit der planned obsolence wie sie gerade von Nvidia praktiziert wird. (Aber glaubt bloß nicht, dass AMD oder Intel das einfach so zulassen dass wir alte Karten viel länger leben lassen.)
Wäre allerdings mal wirklich gelebte Nachaltigkeit, anstatt grünes Virtue Signalling, auch bekannt als Greenwashing, denn dann wäre es recht einfach und ökonomisch, sowohl für den Endverbraucher, wie auch den Hersteller, Grafikkarten mit defekten Speichermodulen zu reparieren. Man müsste ja in 99,5% der Fälle nur das betroffene Speichermodul austauschen.
*Erlebe das Tagtäglich dass ein Board rausmuss, wenn z.B. nur der USB-C Anschluss im Eimer ist, oder mal ein RAM Modul. Oder die CPU oder die iGPU. Und dass von Firmen die sich immer mit Nachhaltigkeit schmücken. Nur um's klarzustellen, ich mag Nachaltigkeit....nur ich hasse Heuchlerei.
Was will ich mit einer GPU bei der dann der vRAM zu langsam ist?
Für AutoCAD, klar, läuft der vRAM bei dem grottenschlecht optimierten Programm voll, ist es egal, wenn der zusätliche etwas langsamer ist, hauptsache er wird nicht voll... aber bei Games?
Eine Speichererweiterung war schon lange überfällig. ^^
Ne, mal im Ernst, mein Arbeitskollege hat das Spiel für einen Intel NUC mit 8809G Frankenstein-APU gekauft.
Falsl man bei solchen Rechnern tatsächlich mit einer Notlösung RAM im PCI-E-Slot was richten könnte, bevr man irgendwelche MINI-Rechner komplett in den Schrott schmeißt, warum nicht?
Günstig ist das ja eh nie, aber wenn jemand an seinem Klumpen Metall hängt und es anders nicht geht?
Ich habe damals absichtlich eine Voodoo 3 PCI statt AGP gekauft.
Ein Test wäre natürlich sehr interessant., inwiefern der Leistungsverlust bei zu wenig VRAM abgefedert werden könnte.
Dass so eine Lösung in der Praxis bei schnellen Karten nichts taugt ist logisch.
Vor allem demnächst mit einer 5090 und superschnellem GDDR7 wird man niemals Speicher auf der Karte durch etwas anderes ersetzen können.
Aber vielleicht bekommen Besitzer einer 3070 8GB oder 2060 6GB noch einmal große leuchtende Augen?
Ein wenig Stichelei aus purer Nostalgie macht doch immer Spaß. ^^ ;-P