KI-Duell: Ryzen 7 8845HS und 7840HS gegen Core Ultra 7 155H - NPUs im Vergleich

Die Redaktion von PCGH hat den Ryzen 7 8840HS ("Hawk Point") und 7840HS ("Phoenix") gegen den Intel Core Ultra 7 155H ("Meteor Lake") jetzt in einem KI-Wettkampf gegeneinander konkurrieren lassen, welcher die Gesamtleistung der Prozessoren sowie deren integrierte Neuralprozessoren, den sogenannten NPUs ("Neural Processing Units"), einmal genau beleuchten und miteinander vergleichen soll. Wer hat momentan die Nase vorn?

CPUs im KI-Duell

Die drei folgenden Prozessoren müssen sich im KI-Duell in verschiedenen Benchmarks und KI-Workflows mit LLMs ("Large Language Models") wie Mistral AI, Windows ML, UL Procyon und LLaMA ("Large Language Model Meta AI") der Facebook-Mutter Meta beweisen.

AMD Ryzen 7 8845HS

• Ryzen 8000 ("Hawk Point")
• Zen 4 in TSMC 4 nm FinFET
• 8C/16T mit bis zu 5,1 GHz
• Radeon 780M (12 CUs)
• NPU mit 16 TOPS
• 45 Watt

Weitere Informationen und technische Spezifikationen liefert AMD auf der offiziellen Projektseite zum Ryzen 7 8845HS.

AMD Ryzen 7 7840HS

• Ryzen 7000 ("Phoenix")
• Zen 4 in TSMC 4 nm FinFET
• 8C/16T mit bis zu 5,1 GHz
• Radeon 780M (12 CUs)
• NPU mit 10 TOPS
• 28 Watt

Weitere Informationen und technische Spezifikationen liefert AMD auf der offiziellen Projektseite zum Ryzen 7 7840HS.

Intel Core Ultra 7 155H

• Core Ultra ("Meteor Lake")
• Redwood Cove + Crestmont
• 16C/22T mit bis zu 4,8 GHz
• Intel Xe-LPG (8 CUs)
• NPU mit 11 TOPS
• 28 Watt

Weitere Informationen und technische Spezifikationen zum Core Ultra 7 155H liefert Intel über die offizielle CPU-Datenbank Intel ARK.

Die Zukunft ist schon da

Wenngleich AMD Ryzen AI 300 ("Strix Point") und Intel Core Ultra 200V ("Lunar Lake") bereits mit einer nochmals stärkeren NPU und 40 bis 50 TOPS werben, sind die drei oben genannten Kandidaten aktuell die schnellsten Vertreter im CPU-Segment für Windows-PCs, welche momentan zudem ausnahmslos im mobilen Bereich zum Einsatz kommen.

Ryzen AI gegen Intel AI Boost

Alle drei Kandidaten besitzen einen dedizierten Neuralprozessor und bewegen sich allesamt im Bereich einer KI-Gesamtleistung von 30 bis 40 TOPS, welche sich aus der Kombination von CPU, integrierter GPU, der sogenannten IGP ("Integrated Graphics Processing Unit"), und dem Neuralprozessor, der NPU ("Neural Processing Unit") zusammensetzt. Die beiden Hersteller setzen dabei auf ihre jeweiligen Software-Stacks, Laufzeitumgebungen und Bibliotheken.

Ryzen AI im Detail

"Eine Welt, in der fortschrittliche virtuelle Assistenten, spannende KI-Anwendungen und lebendige Videokonferenzen Ihren digitalen Horizont erweitern und Lust auf mehr machen", so beschreibt AMD seine mit der Hilfe einer erstmals in AMD Ryzen 7040 alias "Phoenix" und Ryzen 8040 alias "Hawk Point" integrierten und bis zu 16 TFLOPS starken "AI-Engine" realisierte Plattform für KI-Anwendungen "AMD Ryzen AI Software Platform"

AMD Ryzen AI ist in der Lage, bis zu vier KI-Streams gleichzeitig zu verarbeiten und dabei die Systemlatenzen deutlich zu senken, die Akkulaufzeit zu verbessern, entsprechend dedizierte KI-Hardware anzusprechen und die Windows-Studio-Effekte, wie Augenkontaktkorrektur, automatische Framing und Hintergrundeffekte, unter Windows 11 nativ zu unterstützen.

Quelle: AMD Neben entsprechenden Workflows für die ML-Frameworks von ONNX, PyTorch sowie TensorFlow sollen mehr und mehr Windows-Features von der KI-Beschleunigung über die dedizierte KI-Engine, die auf der aus der Übernahme von Xilinx, einem der weltweit führenden Entwickler von Field-Programmable Gate Arrays ("FPGAs"), resultierenden XDNA-Architektur basiert, profitieren. Mit Ryzen AI 300 ("Strix Point") kommt erstmals XDNA 2 zum Einsatz.

Quelle: AMD Quelle: AMD Quelle: AMD

Ryzen AI gegenüber steht ein ganz ähnlicher Ansatz von Intel, welcher mit der Prozessorserie Core Ultra 100 ("Meteor Lake") seine Premiere feierte und auf den Namen Intel AI Boost hört.

Intel AI Boost im Detail

Wie Ryzen AI setzt auch Intel AI Boost auf eine Kombination aus dediziertem Neuralprozessor und einem hauseigenen Software-Stack sowie Laufzeitumgebungen und Bibliotheken. Das Unternehmen aus Santa Clara verspricht unter anderem Sprachübersetzung in Echtzeit, Automatisierungs-Inferenzierung und verbesserten Gaming-Umgebungen.

Bereits mehr als 300 Anwendungen sollen Intel AI Boost unterstützen, wie Intel auf der offiziellen Webseite erklärt. Vorausgesetzt wird ein Intel Core Ultra 100 ("Meteor Lake") oder Intel Core Ultra 200V ("Lunar Lake"), die erstmals eine NPU in einen Core-Prozessor bringen.

Die Testgeräte

Bevor wir in das KI-Duell zwischen AMD Ryzen 7 8845HS, 7840HS und Intel Core Ultra 155H starten, schauen wir uns die theoretische Rechenleistung der dedizierten NPUs sowie der gesamten Chips (CPU + GPU + NPU) einmal im Detail an. Hierfür kommen die drei nachfolgenden Testgeräte zum Einsatz, die im selben Segment mitspielen. Der Redaktion von PCGH standen die drei folgenden Notebooks für das KI-Duell leihweise zur Verfügung.

Tuxedo Pulse 14 Gen3

• AMD Ryzen 7 7840HS
• 32 GiB LPDDR5X-6400
• 2 TB SSD mit PCIe 4.0 x4
• Windows 11 Pro x64

Tuxedo Sirius 16 Gen2

• AMD Ryzen 7 8845HS
• 32 GiB DDR5-5600
• 2 TB SSD mit PCIe
• Windows 11 Pro x64

Asus Zenbook 14 OLED

• Intel Core Ultra 7 155H
• 32 GiB LPDDR5X-6400
• 2 TB SSD mit PCIe 4.0 x4
• Windows 11 Pro x64

Um absolute Chancengleichheit zu gewährleisten, wurden alle Notebooks mit einem Windows 11 Pro x64 ("Windows 11 23H2") eingerichtet und ins Rennen geschickt.

KI-Rechenleistung

Von der reinen KI-Rechenleistung unterscheiden sich die drei Testgeräte nur geringfügig. Während CPU und GPU sich nur wenig schenken, kommen die NPUs im Ryzen 7 7840HS und Core Ultra 7 155H auf 10 respektive 11 TOPS, während die von 1,0 auf 1,6 GHz übertaktete NPU des Ryzen 7 8845HS bis zu 16 TOPS bereitstellen kann.

Mit einer KI-Gesamtrechenleistung von 32 bis 38 TOPS spielen alle drei Prozessoren in einer Liga und werden von 32 GiB Arbeitsspeicher mit 5.600 bis 6.400 MT/s unterstützt, was für eine gute Vergleichbarkeit der nachfolgenden KI-Benchmarks sorgt.

Benchmarks

Hinweis: Die Begriffe Q8, Q6 K und Q3 KM, die in den Benchmarks angegeben sind, beziehen sich auf die Quantisierung von Künstlicher Intelligenz, insbesondere im Kontext von maschinellem Lernen und neuronalen Netzwerken.

• Q8 bezieht sich auf die Verwendung von 8-Bit-Quantisierung. Bei der Quantisierung werden die Gewichte und/oder Aktivierungen eines neuronalen Netzwerks von höherer Präzision (z. B. 32-Bit-Gleitkommazahlen) auf eine niedrigere Präzision (in diesem Fall 8-Bit-Ganzzahlen) reduziert.
• Q6 bezieht sich auf die Verwendung von 6-Bit-Quantisierung. Bei der Quantisierung werden die Gewichte und/oder Aktivierungen eines neuronalen Netzwerks von höherer Präzision (z. B. 32-Bit-Gleitkommazahlen) auf eine niedrigere Präzision (in diesem Fall 6-Bit-Ganzzahlen) reduziert.
• Q3 bezieht sich auf die Verwendung von 6-Bit-Quantisierung. Bei der Quantisierung werden die Gewichte und/oder Aktivierungen eines neuronalen Netzwerks von höherer Präzision (z. B. 32-Bit-Gleitkommazahlen) auf eine niedrigere Präzision (in diesem Fall 3-Bit-Ganzzahlen) reduziert.

LLaMA v2

Im ersten Benchmark des KI-Duells treten die drei Kandidaten von AMD und Intel unter Verwendung von LLaMA ("Large Language Model Meta AI") von Meta in der Version 2.0 gegeneinander an, hier kann AMD seine schnellere NPU ausspielen und liegt teilweise deutlich in Front. XDNA scheint zudem gut mit mehr Taktfrequenz zu skalieren.

Der Ryzen 7 8845HS geht hier als klarer Sieger hervor und ist bis zu 55 Prozent schneller als der Core Ultra 7 155H, während sich der Ryzen 7 7840HS genau zwischen den beiden erstgenannten einsortiert.

Mistral AI

Im zweiten Benchmark treten die CPUs unter Verwendung des Open-Source-Sprachmodells Mistral AI ("Mistral 7B") vom gleichnamigen französischen Softwareunternehmen gegeneinander an.

Auch unter Verwendung von Mistral 7B liegt der Ryzen 7 8845HS deutlich vor den beiden Konkurrenten und demonstriert, dass die Taktsteigerung der NPU von 1,0 auf 1,6 GHz durchaus Früchte getragen hat

Windows ML

Mit dem UL Procyon, der neuen KI-Benchmark-Suite von Underwriters Laboratories (kurz UL), lassen sich auch verschiedene Sprachmodelle auf Basis von Windows ML im Benchmark vergleichen. Hierbei steht ein CPU-Test und ein GPU-Test zur Auswahl, die wir beide durchgeführt und auf die drei Testkandidaten losgelassen haben.

Quelle: PCGH Im Rahmen des Benchmarks mit Windows ML über UL Procyon werden die nachfolgenden sechs Sub-Benchmarks durchgeführt:

• MobileNet V3
• ResNET 50
• Inception V4
• DeepLab V3
• YOLO V3
• Real-Esrgan

Jeder der sechs Sub-Benchmarks dauert in etwa 3 Minuten und nach rund 20 Minuten steht unter dem Strich ein Gesamtergebnis.

CPU-Test

Die CPU-Tests mit Windows ML über UL Procyon sehen den AMD Ryzen 7 8845HS als klaren Sieger hinsichtlich der Leistung in Float32 ("FP32"), Float16 ("FP16") und Integer ("INT") vor dem Ryzen 7840HS und dem Intel Core Ultra 7 155H.

GPU-Test

Auch den CPU-Test mit Windows ML wird von den beiden Ryzen-Prozessoren dominiert, wenngleich die Radeon 780M sich nicht ganz so stark von der Xe-LPG ("Alchemist") absetzen können. Die Einzeltests werden später noch mehr Klarheit liefern.

KI-Einzeltests

Während der insgesamt sechs Einzeltests wurde außerdem die durchschnittliche und maximale Leistungsaufnahme ("Package Power") mittels HWiNFO64 ermittelt. Für die Einzeltests kommen sowohl die CPU als auch die GPU zum Einsatz.

Mit einer durchschnittlichen Leistungsaufnahme von rund 23 Watt ist der Core Ultra am effizientesten unterwegs, während sich der Ryzen 7 8845HS rund 32 Watt genehmigt und damit die höchste Gesamtpunktzahl in der Summe aller Einzeltests für sich verbucht.

Fazit

Unter Verwendung der getesteten LLMs haben die beiden Ryzen-Prozessoren die Nase vorn, wenngleich nicht verschwiegen werden darf, dass der Intel Core Ultra 7 155H ("Meteor Lake") beispielsweise mit der hauseigen OpenVINO-API deutlich mehr zu leisten imstande ist. Bei diesem ersten KI-Dreikampf, welcher noch ganz an der Oberfläche kratzt, sollte aber die Vergleichbarkeit im Vordergrund stehen. Sowohl Ryzen AI als auch Intel AI Boost darf attestiert werden, dass diese mit den ausgewählten LLMs und Benchmarks absolut problemlos liefen und es zu keinerlei Abstürzen oder ähnlichem kam.

Stand heute erledigen AMDs Ryzen 8000 und Ryzen 7000 sowie Intels Core Ultra 100 die typischen KI-Workflows ähnlich schnell. Deutlich größere Unterschiede sind erst mit AMD Ryzen AI 300 und Intel Core Ultra 200V sowie einer deutlich besseren Unterstützung der jeweiligen NPU zu erwarten, während Profi-Software nach wie vor auf GPUs und den professionellen KI-Beschleunigern sowie GPGPUs deutlich schneller läuft.

Ihre Meinung ist gefragt!

Wie stehen Sie zu diesem Thema? Die PCGH-Redaktion freut sich über Ihre fundierte Meinung in den Kommentaren zu dieser Meldung. Um zu kommentieren, müssen Sie auf PCGH.de oder im Extreme-Forum eingeloggt sein. Sollten Sie bisher noch keinen Account haben, könnten Sie sich hier unverbindlich registrieren. Beachten Sie beim Kommentieren aber bitte die geltenden Forenregeln.

Artikel teilen

KI-Duell: Ryzen 7 8845HS und 7840HS gegen Core Ultra 7 155H - NPUs im Vergleich Das Thema der Künstlichen Intelligenz ist in aller Munde und in Zeiten, in denen selbst Mainboards nicht mehr an einem KI-Suffix in der Produktbezeichnung vorbeikommen, bietet sich ein KI-Duell zwischen aktuellen Prozessoren, die eine NPU für KI-Workflows besitzen, förmlich an.

Per E-Mail versenden

14