Optical Computing: "Lightning" soll Deep Learning schneller und effizienter machen
Ein optischer Beschleuniger namens "Lightning" soll aktuelle AI-Hardware bei der Performance und Effizienz deutlich übertreffen. Bei dem Projekt handelt es sich aber noch um einen Prototyp, der zudem noch Genauigkeitsprobleme aufweist.
Deep-Learning-Anwendungen wie ChatGPT oder Stable Diffusion erfreuen sich großer Beliebtheit, brauchen für ihre eindrucksvollen Fähigkeiten aber immense Mengen Rechenleistung. Das erfordert nicht nur kostspielige Hardware, sondern sorgt auch für einen hohen Energieverbrauch. Diese Problem-Kombination soll dabei nicht nur durch die Weiterentwicklung aktueller Halbleiter-Rechenchips gelöst werden, sondern auch durch neue Ansätze.
Licht als Lösung
Einer davon ist das Optical Computing, bei dem nicht mit Elektronen, sondern mit Licht, also mit Photonen gerechnet wird. Und zu genau diesem Bereich hat das MIT nun ein Paper veröffentlicht, in dem eine Beschleunigungskarte namens Lightning vorgestellt wird. Diese soll ein essenzielles Problem bisheriger Ansätze lösen: Die Integration in ein übliches, elektronisches System.
Demnach können mit Photonen zwar Berechnungen schnell und effizient durchgeführt werden, Daten lassen sich mit Licht aber weder speichern noch auslesen. Diese Arbeitsschritte erfolgen weiterhin mit üblichen, elektrischen Speicherzellen und Ansteuerungsstrukturen, die aber das optische Rechenwerk nicht voll auslasten können. Genau hier soll Lightning ansetzen: Durch eine sogenannten Count-Action Abstraction soll das Rechenwerk offenbar selbst direkt die nächste Ausgabe ausführen, solange Daten verfügbar sind. Dadurch wollen die Forscher hinter dem Projekt die elektrische Ansteuerung als Flaschenhals aushebeln.
"Our synthesis and simulation studies show that Lightning reduces machine learning inference power consumption by orders of magnitude compared to state-of-the-art accelerators."
"Unsere Synthese- und Simulationsstudien zeigen, dass Lightning den Stromverbrauch für maschinelles Lernen im Vergleich zu modernen Beschleunigern um eine Größenordnung reduziert."
Laut Mingran Yang, einem der Co-Autoren, soll dieser Ansatz aktuell Beschleuniger bei der Effizienz um grob eine Dekade übertreffen können. Im Paper finden sich sogar noch höhere Werte: In einem Test soll Lightning gegenüber Nvidias A100, dem Vorgänger von Nvidias aktuellem AI-Beschleuniger-Flaggschiff H100, sogar 352 Mal weniger Energie verbrauchen, und zugleich 337 Mal so schnell sein.
Ebenso interessant: Intel Core Ultra: Meteor Lake kommt als 3D-Hybrid doch für den Desktop-PC
Ganz perfekt ist der neuartige Ansatz aber nicht, denn gegenüber bisherigen, elektronischen Lösungen gibt es auch Nachteile. Bei den Tests der Forscher ließen sich Deep-Learning-Netze beispielsweise nicht auf die Genauigkeit von klassischen Silizium-Halbleitern trainieren, da es bei der optischen Berechnung durch Rauschen zu Rechenfehlern kommen kann. In der Bilderkennung wurde der Bestwert mit der optischen Lösung dadurch um 2,25 Prozent verfehlt. In der Praxis würde das für zahlreiche zusätzliche Fehleinordnungen sorgen, die es zu vermeiden gilt. Bis zum Durchbruch von Optical Computing braucht es deshalb noch weitere Forschungsarbeit, sofern dieser im AI-Bereich überhaupt kommen wird.
Quelle: MIT (Paper, PDF) via Sci Tech Daily
Sonst nutze ich es oder kaufe es einfach nicht.
Da das bisher nur in einem Theoretischen Paper steht wird es wohl noch einige Jahre dauern bis sowas, wenn überhaupt, mal anwendbar ist.