KI-Durchbruch als Gefahr für die Menschheit? OpenAIs Q* soll logisch denken können
OpenAI ist angeblich ein Durchbruch bei der KI-Forschung gelungen: Ein neues Netz namens Q* soll sich im logischen Denken deutlich von ChatGPT abheben. Das veranlasste einige Forscher offenbar zu einem Warnbrief an den Vorstand, der wiederum eine Rolle bei der Entlassung des CEOs gespielt haben soll.
Das vor allem für die KI-Produkte ChatGPT und Midjourney bekannte Unternehmen OpenAI hat turbulente Tage hinter sich. Letzte Woche wurde überraschend der CEO entlassen, woraufhin dieser zuerst bei Microsoft anheuerte und dann direkt wieder ins Unternehmen zurückgeholt wurde. Ein Bericht von Reuters liefert nun möglichen Kontext zu den Hintergründen des Rausschmisses: Angeblich spielte dabei ein Durchbruch bei der KI-Forschung eine Rolle.
Logisches Denken als Gefahr
Offenbar verfassten einige Forscher des Unternehmens kurz vor dem Rauswurf des CEOs einen Brief, in dem sie den Vorstand über eine potenziell gefährliche Entwicklung warnten: dem KI-Netz Q* ("Q-Star"). Dieses soll sich von bisherigen Chatbots wie ChatGPT offenbar durch deutlich bessere Fähigkeiten im logischen Denken abheben können. Während ChatGPT immer nur das nächste Wort errät und damit teils Schwachsinn von sich gibt, soll Q* offenbar schon jetzt mit dem logischen Denkvermögen eines Grundschülers mithalten können - und weitere Fortschritte seien möglich.
Darin sahen die Forscher offenbar eine Gefahr für die Gesellschaft, vor der sie den Vorstand warnen wollten. Wie fähig Q* dabei tatsächlich ist, ist unklar - OpenAI hat die Existenz der KI aber bestätigt. Einen Tag vor seiner Entlassung sprach OpenAI-Ceo Sam Altman auf einem zudem auf einem Treffen der APEC über einen großen Durchbruch:
"Viermal in der Geschichte von OpenAI, zuletzt in den letzten Wochen, durfte ich dabei sein, wenn wir den Schleier der Unwissenheit lüften und die Grenzen der Entdeckung verschieben, und das ist die Berufsehre meines Lebens."
"Four times now in the history of OpenAI, the most recent time was just in the last couple weeks, I've gotten to be in the room, when we sort of push the veil of ignorance back and the frontier of discovery forward, and getting to do that is the professional honor of a lifetime."
Auch interessant: ChatGPT fälscht auf Wunsch wissenschaftliche Daten
Laut Reuters soll der Brief zu Q* allerdings nicht der einzige Grund für den Rauswurf gewesen sein. Inwiefern die KI dafür ausschlaggebend war, ist damit ebenso unklar, wie die tatsächlichen Fähigkeiten des Netzwerks. Falls sich Q* aber tatsächlich deutlich von ChatGPT abheben kann, dürfte OpenAI wohl weiter an dem Projekt arbeiten und, wie in der Vergangenheit, irgendwann eine Demo bereitstellen.
Quelle: Reuters via Tom's Hardware
Ein Roboter darf einem menschlichen Wesen keinen Schaden zufügen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.
Ein Roboter muss den Befehlen gehorchen, die ihm von Menschen erteilt werden, es sei denn, dies würde gegen das erste Gebot verstoßen.
Ein Roboter muss seine eigene Existenz schützen, solange solch ein Schutz nicht gegen das erste oder zweite Gebot verstößt.
Später erweiterte Asimov den Kodex in der Erzählung „Das galaktische Imperium“ um ein weiteres, das sogenannte nullte Robotergesetz: „Ein Roboter darf der Menschheit keinen Schaden zufügen oder durch Untätigkeit zulassen, dass der Menschheit Schaden zugefügt wird.“ Das nullte Gesetz stellte Asmiov als übergeordneten Grundsatz den anderen Regeln voran.
Ist das wirklich so schwer ein paar Regeln zu implementieren?
Gruß T.
Ja.
Was dann in erster Linie dazu führt dass du als Programmierer ihm beibringen kannst dass es allgemein auf einer Internetseite sowas wie einen "Account" gibt, und er selbstständig herausfinden soll wie man ein Konto registriert, und eine Email Adresse anlegt. Damit hätten wir schonmal einen Bot der durchgehend Accounts erstellen kann, in zweiter Linie lernt er dann wie man Beiträge schreibt. Wunderbar ... wir haben eine KI in einem Internetforum die irgendeinen Müll absondern im bestenfall Spam oder Werbung. In dritter Linie wird er lernen wie man einen IP-Ban umgeht, VPN nutzt. In vierter Linie lernt er dann anhand der vorhandenen Beiträge das übliche Geschreibe und nimmt davon die Quersumme, sprich die Beiträge werden verarbeitet und daraus werden Beiträge durch die KI erstellt die sich denen ähneln. Sprich wir sind an dem Punkt angelangt wo keiner mehr im Forum weiß welcher neue Account ein Mensch ist, und welcher eine KI.
Und jetzt nutzen wir das für : Propagandazwecke -> Werbung wie Cryptospam -> Social Engineering -> wasauchimmer.
Ich schätze es wird um sowas zu verhindern daraus hinauslaufen dass es sowas wie den "universellen weltweiten" internet-personalausweis geben wird, wird natürlich schwer das durchzusetzen wenn jeder sich irgendwo im Darknet einen Fake E-Perso holen kann (achtung mit Perso ist kein physischer Ausweis gemeint). Also dann wohl doch E-Perso geknüpft an Internetanschluss, und aktiver eingeloggter User geknöpft and seinen E-Perso.
Das wird ne Shitshow, KI ist dazu eigentlich schon lange in der Lage, nur kam noch niemand großartig auf die Idee, und es hat noch nicht so große Auswirkungen dass ganze Foren / Social Media Plattformen dadurch stillgelegt werden, aber es wird kommen wenn es keinen guten Schutz dagegen geben wird. Denn in paar Jahren wird die KI besser wissen wie man sich trotz Ban irgendwo anmeldet, als wir es seit Gründung des Internets wissen.
Was es dagegen noch nicht gibt, sind Gegenmaßnahmen wie die von dir angesprochene E-Perso-Zertifizierung. Die würde in der Praxis nämlich schon alleine daran scheitern, dass weniger als 1 Prozent der Weltbevölkerung Zugang zum E-Perso haben und davon ist bestenfalls ein Viertel bereit und fähig, ihn auch zu nutzen. Für die internationale Kommunikation, die das Internet seit rund einem Vierteljahrhundert ermöglicht und die viel auf der Welt verändert hat, braucht man aber eine Lösung, die auch die anderen 99,75 Prozent der Menschheit erfasst. Wie man das Problem sonst lösen könnte, dazu hört man aus der Tech-Welt dazu natürlich, wie zu jedem anderen Thema auch, nur eine Antwort – "KI". Und auf eine politisch gebremste Verbreitung von KIs würde ich auch nicht mehr wetten, nachdem kürzlich selbst die Regierungsspitze des Landes, dass der ganzen (Webadmin-)Welt das Kürzel "DSGVO" beigebracht hat, "Datensparsamkeit" zu etwas veraltetem, negativen erklärt hat.
Aber der Unterschied ist, wahrscheinlich hat noch niemand einen Bot losgelassen der DeepL kann, mit der Aufgabe selbstständig Webseiten zu infiltrieren und wie ein Mensch Beiträge zu posten, und der aus Blockierungen eher lernt damit er beim nächsten Block weiß wie er agieren muss damit er nicht geblockt wird.
Genau deshalb ist es ja so wichtig, dass z.B. Implementierungen von sicherheitsrelevanten Funktionen durch wissenschaftliche Belege (z.B. durch mathematische Induktion) nachweislich keine Lücken haben. Und das lässt sich nur bei Open Source Software prüfen.
Viele Arten von Captchas sind bereits nicht mehr wirksam, weil die Bots Zeichen auf Bildern immer besser wie ein Mensch lesen können. Dadurch werden Captcha Codes immer undeutlicher, und auch für Menschen schlechter lesbar.
Viele Plattformen lassen mittlerweile logische Rätsel lösen, um zu entscheiden, ob es ein Bot ist. Aber auch das wird irgendwann geknackt sein.
Die Sache ist nur so: Der Bot ist ein schlechterer "Hacker"/"Cracker" als der Mensch. Unethisches Hacking, also Angriffe auf IT-Systeme zum eigenen Nutzen/zum Schaden der Ziele findet heutzutage durch Social Engineering statt, also am einfachsten, durch das Abfragen von Passwörtern, beispielsweise per E-Mail: "Ihr Passwort ist abgelaufen, bitte vergeben Sie ein neues. Da wir so nett sind, lassen wir Sie dazu nicht selbst auf die Seite gehen, sondern haben Ihnen unten einen schönen Fake-Button auf unsere Fake-Webseite platziert."
Aber oft gehen die Angreifer nicht so billig vor, sondern fragen extrem viele, augenscheinlich belanglose Daten (z.B. in angeblichen Umfragen). Oder setzen sich quasi mit einem Fernglas vor die Unternehmenstür. Und mit diesen Informationen mimen sie dann eine Identität. Sodass ein anderer denkt: "Das kann nur der echte sein, weil er könnte das sonst gar nicht alles wissen."
Natürlich kann KI auch einen Trojaner als Microsoft Office-Anhang verschicken und sich, wie so oft, zunutze machen, dass die Skripting-Funktionen von Word & Co. unsicher sind, aber das kann ja ein Mensch genauso und ein automatisches, massenhaftes Versenden gibt es schon lange, auch ohne KI.
Und ein bestehendes Modell mit weiteren Daten trainieren kannst auch Du. Das kann wirklich jeder, der eine GPU im Rechner hat. KI sind Matrizen. Und die KI wird besser, je größer und länger trainiert alles ist. Nicht durch Deine eigene Programmierleistung.
Natürlich kann eine KI mit unendlichen Ressourcen ziemlich vieles lahmlegen und durcheinander bringen, insbesondere, wenn sie in der Lage ist, Menschen sehr gut zu täuschen. Und das findet bereits in "Social Networks" wie Twitter, Telegram usw. statt. Man kann nur mutmaßen, dass es hier in Deutschland bereits einige Prozente der Bevölkerung gibt, deren Alltag sich zum großen Teil wie ein Fragezeichen anfühlt, weil sie total abgehängt und täuschbar sind, und in anderen Teilen der Welt mit einer geringeren Bildung wird es vermutlich noch deutlicher.
Das sehe ich als die größte Gefahr: Dass einige wenige, die z.B. den Einsatz von KI verstehen und nicht auf Täuschungen hereinfallen, am Ende sehr erfolgreich sind, und immer mehr unten Stehende, nach oben sehen, und die Welt nicht mehr verstehen, weil sie von Informationen überflutet werden und keine Ahnung haben, wo sie her kommen und wie sie mit ihnen umgehen sollen - also im Prinzip nur noch Marionetten der Welt sind.