Nvidia Digits Dev Box: Neuronale Netze auf vier Titan-X-Karten

9
Special Roland Austinat (US-Korrespondent) Als bevorzugte Quelle auf Google hinzufügen
Digits Dev Box: Neuronale Netze auf vier Titan-X-Karten (3)
Quelle: Nvidia

28 TeraFLOPS aus einer Steckdose: Mit der Digits Dev Box gibt Nvidia Forschern ein mächtiges Hilfsmittel in die Hand, das einem Computer dabei hilft, die Welt zu verstehen.

Schon auf der GTC im letzten Jahr führte Nvidia-Chef Jen-Hsun Huang in seiner Eröffnungsansprache aus, wie gut sich eine hauseigene Grafikkarte sich für das Thema Deep Learning anbieten würde. Drei Titan-Z-Karten erbrachten die gleiche Leistung wie ein fünf Millionen US-Dollar teurer Supercomputer mit 2.000 CPUs beziehungsweise 16.000 Kernen - und benötigten obendrein noch 598 kW Leistung weniger. 2015 hat sich Deep Learning zum Thema schlechthin aufgeschwungen, ohne das kein Thema der Eröffnungsansprache mehr auskam.

Deep Learning: Eine kurze Historie

1998 beschrieben einige Forscher in einem Aufsatz eine Methode, mit der man einem Computersystem beibringen kann, sich selbst zu verbessern. Ganz praktisch sollte der Rechner lernen, mithilfe eines neuronalen Netzes Texte und Bilder auszuwerten, zu erkennen und dann in eine vordefinierte Gruppe einzusortieren. Bei einem Tierfoto werden im ersten Durchgang beispielsweise die Umrisse des abgebildeten Tiers erkannt, im zweiten dann Muster und Texturen, im dritten übergreifende Elemente wie ein Auge oder ein Ohr, bis dann im vierten Durchgang das ganze Bild bewertet und mit einer der Tiergattung entsprechenden Nummer versehen wird. Deep Learning heißt diese Vorgehensweise deswegen, weil der Rechner ein Bild in teilweise bis zu über einem Dutzend Durchgängen untersucht, um so immer genauere Aussagen darüber treffen zu können. Diese Methode ist noch heute im Einsatz, etwa bei der US-amerikanischen Post, die damit handschriftliche Adressen analysiert und in einen Code zur schnelleren Beförderung umwandelt, der dann auf den Brief oder die Postkarte gedruckt wird.

GPUs rocken die ImageNet Challenge

2010 fand an der Stanford University zum ersten Mal die inzwischen jährlich durchgeführte ImageNet Challenge statt. Aus zehn Millionen Bildern wurden 200.000 ausgewählt, die händisch in 1.000 Kategorien eingeteilt wurden. Ein neuronales Netz musste diese 200.000 Bilder nun erkennen und in die Kategorien einsortieren. Deep Learning brachte in diesem Anwendungsfall bis 2011 bei CPUs eine 74-prozentige Treffsicherheit. 2012 kamen bei einem Teilnehmer der Challenge zum ersten Mal GPUs zum Einsatz: Die Treffsicherheit sprang mit einem Schlag auf 84 Prozent. Die Folge: Seit 2013 nutzt fast jeder Teilnehmer GPUs. Vor gut vier Wochen erreichte Microsoft am 5. Februar mit 4,94 Prozent erstmalig eine Restunsicherheit von unter fünf Prozent. Am 11. Februar zog Google nach und verkündete, den Wert nun auf 4,82 Prozent gesenkt zu haben.

Szenenbilder aus dem Computer

Den ersten GPU-Einsatz bei der ImageNet Challenge 2012 nennt Jen-Hsun Huang den "Big Bang" von Deep Learning. Heute setzen die meisten namhaften Softwarefirmen, Universitäten und zahlreiche Start-ups auf diese Technologie. Deep Learning kommt beispielsweise bei der Erforschung der Entstehung von Brustkrebs, der Vorhersage der Giftigkeit neuer Medikamente und der Untersuchung von genetischen Mutationen zur Krankheitsverhinderung zum Einsatz. Richtig spannend sind Systeme, die gleich mehrere Objekte in einem Bild zu bestimmen suchen und sie dann beschreiben. Etwa "ein großes Flugzeug steht auf einem Rollfeld", "ein Mann reitet mit einer Kutsche eine Straße hinunter" oder "ein Schiff hat in einem Kanal angelegt, im Hintergrund steht ein großes Gebäude". Doch was das System nicht kennt oder gut genug gelernt hat, kann es nicht immer sicher beschreiben. Einen fliegenden Fisch hält es für einen weißen Vogel, eine Zahnbürste, die ein Baby hält, für einen Baseballschläger.

Superrechner für den Schreibtisch

Nvidia unterstützte Forscher, die ihren Computern dabei helfen, die Welt zu erkennen, bislang mit dem kostenlosen Digits-Toolkit. Damit lassen sich neurale Netzwerke erstellen und deren Ergebnisse visualisieren. Auf seiner GTC-Eröffnungsansprache kündigte Jen-Hsun Huang gestern die Digits Dev Box an, eine leistungsfähige All-In-One-Plattform: In diesem wuchtigen Ubuntu-Desktop-Rechner stecken vier Titan-X-Karten, bis zu 64 GByte Speicher und eine Core-i7-CPU. Für $15.000 US-Dollar will Nvidia ab Mai Forschern ein 28 TeraFLOPS starkes Hilfsmittel in die Hand geben, um ihre Deep-Learning-Studien schneller voranzutreiben. "Im Jahr 2000 brauchte man für einen TeraFLOP noch ein Megawatt Leistung, heute benötigt die 28fache Menge gerade mal 1300 Watt", freut sich Huang. Erste Ergebnisse von Multi-GPU-Training sollen zeigen, dass die Digits Dev Box perfekt skaliert und eine viermal so hohe Leistung bei Deep Learning-Benchmarks erreicht wie eine einzelne Titan X. Das Training des Industrie-Standardmodells "AlexNet" wird so in 13 Stunden mit der Digits Dev Box absolviert. Der schnellste Single-GPU-PC benötigt dafür zwei Tage, ein rein auf CPUs basierendes System sogar über einen Monat.

Bildergalerie

9
    • Kommentare (9)

      Zur Diskussion im Forum
      • Von Roland Austinat Komplett-PC-Aufrüster(in)
        Zitat von XPrototypeX
        Kommt auch mit viel Software. Keine Ahnung was die so kostet. Allerdings gibts auch viele open source projekte zu dem Thema.

        Zu dem ist fraglich was das Forschern bringen sollen. Die die an so etwas arbeiten habem meistens einen weit aus stärkeren Clust zu verfügung und als Hobby ist so etwas eher etwas zu teuer ^^
        Forscher, die in renommierten Instituten von großen Drittmittelgebern unterstützt werden, sicherlich. Aber es gibt genug kleinere Institute, die eben nicht die Kohle haben, sich einen Cluster aus Quadro-Karten zu bauen. Ein Nvidia-Mitarbeiter meinte gestern, dass in universitären Bereichen Titan und Co. dominieren würden.
      • Von Roland Austinat Komplett-PC-Aufrüster(in)
        Zitat von XPrototypeX
        Kommt auch mit viel Software. Keine Ahnung was die so kostet. Allerdings gibts auch viele open source projekte zu dem Thema.

        Zu dem ist fraglich was das Forschern bringen sollen. Die die an so etwas arbeiten habem meistens einen weit aus stärkeren Clust zu verfügung und als Hobby ist so etwas eher etwas zu teuer ^^
        Forscher, die in renommierten Instituten von großen Drittmittelgebern unterstützt werden, sicherlich. Aber es gibt genug kleinere Institute, die eben nicht die Kohle haben, sich einen Cluster aus Quadro-Karten zu bauen. Ein Nvidia-Mitarbeiter meinte gestern, dass in universitären Bereichen Titan und Co. dominieren würden.
      • Von wievieluhr Software-Overclocker(in)
        Zitat von alm0st
        Dazu kommen dann noch Hardware und Software Support und Garantie - das macht mit Sicherheit nochmal gute 5k aus.
        ist ja im Professionellem Bereich nicht anders aber für solche beträge will ich nurnoch auf Enter Drücken müssen
      • Von alm0st BIOS-Overclocker(in)
        Zitat von wievieluhr
        Ich bin Begeistert

        Daumen Hoch dass NV auch etwas für die Forschung tut.
        Mich würde interessieren wie das jetzt eig läuft... das Wird doch über die GPU Power einfach nur emuliert oder Täusche ich mich? (GPU ist ja kein Funktionierendes NEuronales Netz Per

        thumbs Up NV.

        Aber:
        wie kommen 15.000 Zusammen?
        titans 4x 1000
        CPU (übertreiben wirs: 1000)
        Mobo 300
        NT 300
        Case 100
        RAM 500

        macht bei mir ca 6200 ????
        PS: hab wohl vergessen SLI Brücken einzuberechnen ....
        Pro SLI bridge 1000 und ich bin immernoch nicht bei 15000
        Dazu kommen dann noch Hardware und Software Support und Garantie - das macht mit Sicherheit nochmal gute 5k aus.
      • Von wievieluhr Software-Overclocker(in)
        Sollte Es um DP Leisutng gehen bin ich mir nicht mal sicher wie Rentabel es ware mit Xeon Phis zu Arbeiten:
        nur 1 TFLOPS DP leistung für 4,500 € bei ebenfalls 300W TDP
      • Von XPrototypeX PC-Selbstbauer(in)
        Jep zu dem jetzt auch HSA. Was tasks ohne viel Arbeit zwischen GPU und CPU parallelisieren kann.
      Direkt zum Diskussionsende
  • Print / Abo
    Apps
    PCGH Magazin 08/2026 PC Games 08/2026 play5 08/2026 N-Zone 08/2026 Linux Magazin 08/2026 LinuxUser 08/2026 Raspberry Pi Geek 09/2026
    PC Games Hardware PC Games Linux Magazin Raspberry Pi Geek Computec Kiosk