"KI-Pate" Geoffrey Hinton warnt vor Gefahren von ChatGPT und Co.
Der Kognitionspsychologe Dr. Geoffrey Hinton gilt als einer der Paten der künstlichen Intelligenz. Nun warnt er vor den Gefahren bei ChatGPT und Co., erkennt aber auch Chancen an.
Seit Anfang des Jahres ist ChatGPT in aller Munde. Mittels kurzer Texteingaben lassen sich ganze Briefe u.v.m. generieren. Dr. Geoffrey Hinton gilt als einer der Paten der künstlichen Intelligenz. Mittlerweile hat der 75-Jährige seinen Rücktritt bei Google bekannt gegeben. Gegenüber der New York Times bereut er seine Arbeit und warnt vor der künstlichen Intelligenz. In einer Stellungnahme gegenüber der BBC erklärte Hinton, dass KI-Chatbots "ziemlich beängstigende Gefahren" sein könnten. Schließlich ist es nur noch eine Frage der Zeit, ehe ChatGPT und Co. intelligenter als wir Menschen sind, so der britisch-kanadische Kognitionspsychologe.
Dr. Hinton: Verantwortungsbewusste KI ist Aufgabe der Politik
Die Forschung von Dr. Hinton ebnete den Weg für aktuelle KI-Chatbots. Aktuell verfügt ChatGPT-4 zwar bereits über mehr Allgemeinwissen als ein Mensch, doch die Argumentation ist noch nicht gut genug, so Dr. Hinton. KI-Tools werden mit jeder Eingabe besser, angesichts des rasanten Fortschritts werden ChatGPT und Co. zeitnah über viel mehr Wissen verfügen. ChatGPT-3 ist mit 175 Milliarden Parametern trainiert worden, das aktuelle GPT-4 hingegen nutzt 100 Billionen Parameter. So können KI-Tools durchaus hilfreich sein, bei Microsoft 365 etwa lassen sich Textvorschläge in Word mittels KI-Copiloten generieren. Im Interview mit der BBC malte der Wissenschaftler eine Art Worst-Case-Szenario, denn KI kann auch für schlechte Ziele genutzt werden:
"Sie können sich zum Beispiel vorstellen, dass ein schlechter Schauspieler wie [der russische Präsident Wladimir] Putin beschlossen hat, Robotern die Möglichkeit zu geben, ihre eigenen Unterziele zu erstellen. Unterziele wie 'Ich muss mehr Macht bekommen'." - Dr. Geoffrey Hinton.
Insgesamt sieht der 75-Jährige kurzfristig positive Effekte durch ChatGPT und Co. und vertritt die Meinung, dass man weiterhin an KI-Tools entwickeln sollte. Eine Entwicklungspause würde international dazu führen, ins Hintertreffen zu geraten. Wenn etwa die USA aufhören würden, KI-Tools zu entwickeln, dann würde China einen großen Vorsprung bekommen. Es liegt in der Verantwortung der Politik, dass die KI "mit viel Nachdenken darüber entwickelt wird, wie man verhindern kann, dass sie abtrünnig wird".
Ebenfalls lesenswert: Mit ChatGPT: So gut ist das neue Microsoft Bing im Hands-on-Test
Sammlung zur Gefahrenwarnung vor ChatGPT und Co.:
- Dr. Geoffrey Hinton gilt als einer der Paten der künstlichen Intelligenz mit seiner Forschung im Bereich Kognitionspsychologie.
- Aktuell verfügt ChatGPT-4 zwar bereits über mehr Allgemeinwissen als ein Mensch, doch die Argumentation ist noch nicht gut genug, so Dr. Hinton.
- Da jedoch ChatGPT und Co. mit jeder Nutzereingabe dazu lernen, gibt es eine sehr schnelle Entwicklung.
- Laut Dr. Hinton liegt es in der Verantwortung der Politik, dass die KI "mit viel Nachdenken darüber entwickelt wird, wie man verhindern kann, dass sie abtrünnig wird".
Quelle: BBC
Wo liegt hier das Problem? Einfach Asimovs drei Robotergesetze implementieren und fertig.
Gruß T.