DeepSeek: AMD sieht Radeon RX 7900 XTX vor Geforce RTX 4090
AMD sieht sein aktuelles RDNA-3-Spitzenmodell, die Radeon RX 7900 XTX, bei der KI-Beschleunigung des DeepSeek-LLMs in hauseigenen Benchmarks gegenüber der Nvidia Geforce RTX 4090 und Geforce RTX 4080 Super deutlich im Vorteil.
AMD sieht sein nach wie vor aktuelles RDNA-3-Flaggschiff, die Radeon RX 7900 XTX mit ihrem Navi-31-Grafikprozessor, bei der Beschleunigung von Künstlicher Intelligenz über das DeepSeek-LLMs ("DeepSeek R1") in hauseigenen Benchmarks gegenüber der Nvidia Geforce RTX 4090 und Geforce RTX 4080 Super klar im Vorteil. Das Leistungsplus beträgt dabei im LM Studio in der Spitze bis zu 34 Prozent.
In seiner AMD Community geht der Hersteller tiefer auf das Thema ein und demonstriert, wie DeepSeek R1 im LM Studio lokal auf einer Radeon RX 7900 XTX läuft und zu welcher Leistung die im Dezember 2022 vorgestellte RDNA-3-Grafikkarte mit ihren insgesamt 6.144 Streaming-Prozessoren auch heute noch imstande ist.
Unter Verwendung des optionalen Grafiktreibers Adrenalin Edition 25.1.1, welcher unter anderem auch für den Einsatz von LM Studio auf Ryzen AI mit Radeon-IGP und dedizierten Radeon-Grafikkarten optimiert wurde, geht AMD in einem zweiten Video noch tiefer ins Detail und liefert entsprechende Impressionen.
DeepSeek R1 läuft im LM Studio lokal auf der nachfolgenden empfohlenen Hardware, zu der AMD in seinem Blog-Beitrag weitere Details für die Voreinstellungen und die zu nutzenden Rahmenbedingungen nennt.
Ryzen-APUs mit Radeon-IGP:
- AMD Ryzen AI Max+ 395
- AMD Ryzen AI HX 370
- AMD Ryzen 8040
- AMD Ryzen 7040
Radeon-GPUs:
- AMD Radeon RX 7900 XTX
- AMD Radeon RX 7900 XT
- AMD Radeon RX 7900 GRE
- AMD Radeon RX 7800 XT
- AMD Radeon RX 7700 XT
- AMD Radeon RX 7600 XT
- AMD Radeon RX 7600
Anwender, welche das DeepSeek-LLMs einmal lokal auf ihrer Hardware ausprobieren wollen, können das aktuelle LM Studio 0.3.8 kostenlos herunterladen und sollten anschließend der ausführlichen Anleitung von AMD folgen.
Ihre Meinung ist gefragt!
Wie stehen Sie zu diesem Thema? Die PCGH-Redaktion freut sich über Ihre fundierte Meinung in den Kommentaren zu dieser Meldung. Um zu kommentieren, müssen Sie auf PCGH.de oder im Extreme-Forum eingeloggt sein. Sollten Sie bisher noch keinen Account haben, könnten Sie sich hier unverbindlich registrieren. Beachten Sie beim Kommentieren aber bitte die geltenden Forenregeln.
Quelle: AMD
Beispiel:
Wenn bei uns in der Firma von 100% Arbeit 99% durch Roboter und KI gemacht wird, dann profitiert mein Arbeitgeber maximal und 99% der Belegschaft fallen in die Armut, sofern sich dadurch nicht andere Arbeitsplätze auftun.
Das wäre dann „Star Trek“ 😅
Der Tag, an dem Erziehung als zu vermeidende Belastung eingestuft wurde, liegt lange zurück. Hauptberufliche Erzieher decken dabei nur einen kleinen Teil des Zeitraumes ab, in dem Erziehungsleistungen möglich wären – vermutlich schon heute weniger als Fernseher, Tablets und anderes elektronisches Spielzeug jeweils einzeln betrachtet.
Viele Menschen haben zudem ein starkes Interesse Teile ihrer eigenen Identität zu vererben. Neuerdings geht das auch unpersönlich via KI (Doku in ARD Mediathek). Wenn Kindererziehung schon nicht zweifelsfrei als natürliche Prägung definiert werden kann, dann zumindest als eine über meines Wissens alle menschlichen Kulturen verbreitete Angewohnheit. Für die meisten Menschen ist es wohl unvergleichbar sinnstiftend.
Von Seiten der Kinder weiß man, dass Leben nicht ohne Liebe lebt.
Vielleicht wird man dennoch in fernen Ländern derartige Versuche sehen.
Mit ollama kann man sich doch einige verschiedene Sprachmodelle laden, die alle gut für Consumer GPUs geeignet sind. Und dann könnte man z.B. die Token/s für verschiedene Modelle messen. Oder wäre das zu ungenau?
Der Tag, an dem Erziehung als zu vermeidende Belastung eingestuft wurde, liegt lange zurück. Hauptberufliche Erzieher decken dabei nur einen kleinen Teil des Zeitraumes ab, in dem Erziehungsleistungen möglich wären – vermutlich schon heute weniger als Fernseher, Tablets und anderes elektronisches Spielzeug jeweils einzeln betrachtet.
Andererseits hat mich auch das "zumindest" gewundert. Die KI ist offensichtlich bestrebt meine "Wünsche" zu erahnen und entsprechend den Wahrheitsgehalt zu dosieren. Das kann zu Entscheidungen wie, "Du kannst die Wahrheit doch gar nicht vertragen!" führen.
Verblüffend fand ich auch, dass die Informationen als Fakenews deklariert worden sind.