Stephen Hawking warnte 2014: Weiterentwickelte KI könnte das "Ende der Menschheit" bedeuten
Im Jahr 2014 erklärte der mittlerweile verstorbene britische Physiker Stephen Hawking, dass eine weiterentwickelte KI das "Ende der Menschheit" bedeuten könnte.
Nach Jahren der Entwicklung sind KI-Tools seit diesem Jahr für viele Menschen zugänglich. Seit Anfang des Jahres ist ChatGPT in aller Munde. Mittels kurzer Texteingaben lassen sich ganze Briefe u.v.m. generieren, wobei inzwischen über 100 Billionen Parameter als Datengrundlage dienen. Mit jeder Eingabe entwickelt sich das KI-Tool weiter. Neben Chancen birgt die neue Technologie aber auch Risiken. Bereits 2014 hatte der britische Physiker Stephen Hawking in einem BBC-Interview vor der vollständigen künstlichen Intelligenz gewarnt. Wenn man eine vollständige KI entwickelt, könnte dies das Ende der Menschheit bedeuten, so der im Jahr 2018 verstorbene Wissenschaftler.
Hawking: Risiken von KI ernst nehmen
Mehr als 55 Jahre lang war Hawking aufgrund von Amyotropher Lateralsklerose nur mittels Technologie in der Lage zu kommunizieren. So ermöglichte ihm etwa ein von Intel entwickeltes Spracherzeugungsgerät zu sprechen. Mittels Gesichtsbewegungen werden hierbei Buchstaben ausgewählt. Eine Weiterentwicklung dieser einfachen Form von KI stand Hawking kritisch gegenüber. Wenn man weiterentwickelte Formen von KI entwickelt, die die Intelligenz der Menschheit übertrifft und eigenständig denken kann, könnte dies fatale Folgen haben. Bereits KI-Chatbots wie ChatGPT sind mächtig, doch haben diese KI-Tools gewisse Grenzen und kann etwa keinerlei emotionale Kontexte verstehen. Zudem können die Antworten ungenau sein, sodass eine manuelle Überprüfung immer empfehlenswert ist. Im März 2023 formierten sich etliche Wissenschaftler, die einen Entwicklungsstopp bei KI-Tools fordern. Einer der Unterzeichner des öffentlichen Briefes ist auch Tesla-Chef und ehemaliger Open-AI-Investor Elon Musk.
Laut Stephen Hawking könnte es möglicherweise "unser schlimmster Fehler aller Zeiten" sein, wenn man die mit KI verbundenen Risiken nicht ernst nimmt. In eine ähnliche Richtung geht auch der britisch-kanadische Kognitionspsychologe Dr. Geoffrey Hinton, der als einer der Paten der künstlichen Intelligenz zählt. Im Interview mit der BBC malte der Wissenschaftler eine Art Worst-Case-Szenario, denn KI kann auch für schlechte Ziele genutzt werden. Es liegt in der Verantwortung der Politik, dass die KI "mit viel Nachdenken darüber entwickelt wird, wie man verhindern kann, dass sie abtrünnig wird". Demnächst erhalten Abonnenten von Microsoft 365 die Möglichkeit, einen KI-Copiloten zu nutzen. So lassen sich beispielsweise mittels ChatGPT-4 in Word Textvorschläge generieren oder mehrere E-Mails zu einem Thema zusammenfassen.
Ebenfalls lesenswert: "KI-Pate" Geoffrey Hinton warnt vor Gefahren von ChatGPT und Co.
Sammlung zu Bedenken beim KI-Einsatz:
- Der 2018 verstorbene Physiker Stephen Hawking warnte bereits im Jahr 2014 davor, die Risiken einer KI zu unterschätzen. Wenn man eine vollständige KI entwickelt, könnte dies das Ende der Menschheit bedeuten.
- Von 1985 bis zu seinem Tod war Hawking an Amyotropher Lateralsklerose erkrankt und konnte daher nur mit Hilfe von Technologie kommunizieren. Eine Weiterentwicklung könnte fatale Folgen haben, wenn die KI eigenständig denken kann.
- Laut Stephen Hawking könnte es möglicherweise "unser schlimmster Fehler aller Zeiten" sein, wenn man die mit KI verbundenen Risiken nicht ernst nimmt.
Quelle: New York Post
Skynet wurde primär zur Erkennung von und Handlen bei Bedrohungen hauptsächlich nach militärischen Gesichtspunkten und Parametern programmiert.
Das 2. Josh (das Programm) hat keinen Zugang zu den Codes, diese muss es erst herausfinden.
Aber ohne die dazugehörigen Dinge die wir als Menschen durch Erziehung und sozialem Miteinander im laufe unserer Kindheit automatisch lernen und dies zeitlebens bis zu unserem Tode. Bei einer Maschieneninteligenz so komplex sie dann auch sein sollte und da es sicher auch mit am schwersten zu implementieren sein wird stellt sich mir hier die wichtigste Frage bezüglich der moralischen und ethischen Komponenten.
Die fettgedruckte Schlagzeile sticht halt ins Auge und wenn die mit meiner Meinung konform geht was interessiert dann noch das viele kleingedruckte.
Bestes Bsp. wäre hier der Slogan Ausländer raus. Eine der gern gemachten pauschal Aussagen ohne Fakten und echtem nachvollziehbahrem Inhalt. Denn ohne Ausländer gäbe es keine einzige der heutigen Nationen und sie wären auch nicht existenzfähig. Wir leben zwar in einem ausnehmend global ausgerichteten Zeitalter nur bitte nicht in meiner Stammkneipe und bei mir zu Hause.
Jetzt was zur KI.
Den jetzigen Zustand beibehalten wäre einfach nur Stillstand.
Aber ohne die dazugehörigen Dinge die wir als Menschen durch Erziehung und sozialem Miteinander im laufe unserer Kindheit automatisch lernen und dies zeitlebens bis zu unserem Tode. Bei einer Maschieneninteligenz so komplex sie dann auch sein sollte und da es sicher auch mit am schwersten zu implementieren sein wird stellt sich mir hier die wichtigste Frage bezüglich der moralischen und ethischen Komponenten.
Kann eine KI auch Empathie lernen und in wie weit sich in ihrem Bewustsein entwickeln können um Dinge tatsächlich auch aus unserer menschlichen Perspektive zu erkennen. Wird sie in der Lage sein sich so weit selbst zu reflektieren um zu erkennen inwieweit ihre Handlungen am Ende eher gut oder böse ausfallen um sich dann auch falls nötig diezbezüglich selbst zu korriegieren.
MfG
Skynet wurde primär zur Erkennung von und Handlen bei Bedrohungen hauptsächlich nach militärischen Gesichtspunkten und Parametern programmiert.