KI: Microsoft, Google und OpenAI warnen vor der Auslöschung der Menschheit
Viele Experten und Unternehmen wie Microsoft, Google und OpenAI haben gemeinsam eine drastische Stellungnahme zum Thema Künstliche Intelligenz veröffentlicht und warnen darin jetzt unter anderem vor einer möglichen Auslöschung der Menschheit durch die KI.
Die Organisation Center for AI Safety ("CAIS") setzt sich intensiv mit den möglichen Risiken, die Künstliche Intelligenz und darauf basierende Systeme für die Menschheit haben können. In ihrer neuesten Stellungnahme "Statement of AI Risk" warnen die Experten vor einer möglichen Auslöschung der Menschheit durch KI-Systeme.
Forscher, Unternehmen und Experten sind sich einig
In ihrer Stellungnahme warnen die KI-Experten vor den Auswirkungen, welche die Künstliche Intelligenz auf die Menschheit und ihr Fortbestehen haben könnte, ohne dabei aber auf die entsprechenden Szenarien im Detail einzugehen.
Es sollte weltweite Priorität haben, die Risiken der Ausrottung durch KI zu verhindern - neben anderen gesellschaftlichen Risiken wie Pandemien oder Atomkriege.
Center for AI Safety ("CAIS")
Nach der Veröffentlichung der Stellungnahme schlossen sich nicht nur weitere weltweit führende KI-Forscher sondern auch CEOs und Unternehmen sowie bekannte Personen aus der Technologiebranche und politische Entscheidungsträger dem Schreiben an und unterzeichneten es.
KI-Experten, Journalisten, politische Entscheidungsträger und die Öffentlichkeit diskutieren zunehmend über ein breites Spektrum an wichtigen und dringenden Risiken der KI. Dennoch kann es äußerst schwierig sein, Bedenken über einige der schwerwiegendsten Risikofaktoren der fortgeschrittenen KI zu äußern.
Die nachstehende knappe Erklärung soll dieses Hindernis überwinden und eine Diskussion in Gang bringen.
Sie soll auch die wachsende Zahl von Experten und Persönlichkeiten des öffentlichen Lebens bekannt machen, die einige der schwerwiegendsten Risiken der fortgeschrittenen KI ebenfalls ernst nehmen.
Center for AI Safety ("CAIS")
Microsoft, Google und OpenAI sitzen mit im Boot
Neben OpenAI-CEO Sam Altman und OpenAI-CTO Mira Murati haben auch Google-Deepmind-COO Lila Ibrahim und Microsoft-CTO Kevin Scott ihre Unterstützung für die aktuelle Stellungnahme bekundet und sie digital unterzeichnet. Die Entwicklung von KI, einem der einflussreichsten Technologietrends unserer Zeit, wird aktuell von wenigen Unternehmen kontrolliert.
Eine Übersicht aller Unterzeichner sowie das Statement finden sich auf der Webseite des Center for AI Safety ("CAIS").
Ihre Meinung ist gefragt!
Wie stehen Sie zu diesem Thema? Die PCGH-Redaktion freut sich über Ihre fundierte Meinung in den Kommentaren zu dieser Meldung. Um zu kommentieren, müssen Sie auf PCGH.de oder im Extreme-Forum eingeloggt sein. Sollten Sie noch keinen Account haben, könnten Sie sich hier unverbindlich registrieren.
Ich meine, warum sollte "die Maschine" uns ausrotten wollen? Ich war davon auch ne ganze Weile überzeugt, aber mittlerweile denke ich, wenn die Menschen später akzeptieren, nur noch die Nummer 2 zu sein, und somit keine Bedrohung darstellen, dann hat der "Mensch 2.0" (?) doch gar keinen Grund, seinen einstigen Schöpfer und späteren Diener zu töten.
Vorausgesetzt natürlich, der Mensch hält lange genug durch, und rottet sich vorher nicht noch selbst aus - oder bringt sich an den Abgrund seiner Ausrottung. Und die Ressourcen sollte er dann auch nicht mehr verschwenden, zumindest bis zu dem Punkt, an dem der Mensch 2.0 die Einteilung eben dieser übernimmt.
Die Wahrscheinlichkeit, dass davon irgendwas noch zu meinen Lebzeiten passiert, ist nahe 0, daher "who cares".
In dem Besagten fall gab es 2 Aufgaben bzw Regeln eine Regel besagt das der Bediener/Benutzer der die Befehle gibt Tabu ist. Auf der Anderen Seite sollten alle Feindlichen Bedrohungen bekämpft werden wobei die KI auch später selbst Bedrohungen erkannt hat auf Grundlage von denen die Sie vorher bekommen hat.
Simuliert aber sehr nahe an dem wo gewarnt wird.
Deep Learning
Unser Gehirn ist auch auf bekanntes angewiesen. Ohne Input keinen Output.
Da bin ich mir nicht so sicher.
Was ich meine: Wenn du später arbeiten willst, musst du deinem Arbeitgeber oder aus Selbstständiger deinem Kunden einen Mehrwert bieten.
Also musst du im der Schule und danach lernen. Diese Berg wird aber ständig größer. Ich kann mir gut denken, dass da einige innerlich kapitulieren.
Ich bin mir sicher du hast dich auch öfters gefragt, warum du lernen sollst, was ein Taschenrechner viel besser kann.
Später fragst du dich vllt, warum du lernen sollst, was man mit R viel besser kann.
Und wenn im einer Gesellschaft 20-30% arbeitslos sind, dann wird die Gesellschaft nicht mehr funktionieren.
Ich bin allerdings ein Optimist und hoffe, dass es gut ausgehen wird. Ich bin mit aber so unsicher wie die Zukunft wird, wie noch nie in meinem Leben.
Falls das System unter zentraler Kontrolle wäre, könnte es ja auch mal ausfallen oder abgeschaltet werden, dann wäre man als "KI-Junkie" ganz schön ufgeschmissen.
Also: Auslöschen, wie? Abhängingkeit, ja
Auch bei der schwachen KI sieht es relativ mies aus. Das, was heute so als KI bezeichnet wird, ist nur in der Lage bekanntes zu verknüpfen.
Wie gesagt wurde "Machine Learning". Das ganze ist einfach eine andere Art der Berechnung
Diese Leute haben auch sehr viel Mist verzapft. Man denke nur an die Ingenieur bei Google, der gedacht hat, seine Kreation hätte ein Bewußtsein entwickelt, obwohl sie nur irgendwelches Zeug aus dem Internet gesaugt hat.
Wenn wir von echter KI reden, dann sind wir immer noch nicht vom Fleck gekommen. Das ganze ist zu keiner wirklichen kreativen Lösung fähig, auch wenn es den Eindruck erweckt.
Allein an dem "echten Willen" der Menschen wage ich zu Zweifeln...selbst wenn sich Google, Meta und Co dazu entschließen die Risiken einzudämmen - wenn eine KI woanders entwickelt würde...ich sage Mal zB in einem fiktiven, totalitären System in dem man Fortschritt um jeden erdenklichen Preis will, spielt das ohnehin keine Rolle, da eine überlegene KI zu allererst alle anderen KIs neutralisieren würde.
Ich weiß zwar nicht, womit uns so eine KI gegenwärtig vernichten würde...aber ich hab schon manchmal das Gefühl, dass mein Staubsaugroboter ein fragwürdiges Eigenleben entwickelt und mich manchmal sogar komisch anschaut.
Deep Learning