Reddit-Experiment enthüllt: KI-Kommentare überzeugen Nutzer effektiver
Forscher führten auf Reddit ein verdecktes KI-Experiment durch. Ergebnis: Künstliche Intelligenz überzeugte Nutzer deutlich häufiger als Menschen.
Dass Künstliche Intelligenz im Internet vielfach eingesetzt wird, ist bekannt. Eine neue Studie der Universität Zürich sorgt nun für Aufsehen, da Forscher heimlich untersuchten, wie überzeugend KI-generierte Kommentare im Vergleich zu menschlichen Beiträgen sind.
Das Experiment wurde auf dem Subreddit r/ChangeMyView durchgeführt, einer Plattform, auf der kontroverse Themen diskutiert und gezielt Gegenargumente eingefordert werden können. Über mehrere Monate veröffentlichten Forscher dort rund 1.700 Kommentare, die von verschiedenen KI-Modellen erstellt und anschließend manuell überprüft wurden.
Erste Studienergebnisse legen nahe, dass KI-generierte Beiträge drei- bis sechsmal effektiver darin waren, Nutzer zum Umdenken zu bewegen. Die Forscher bestimmten die Überzeugungskraft anhand sogenannter "Deltas"-Markierungen, mit denen Nutzer anzeigen, dass ein Beitrag sie überzeugt hat.
Bemerkenswert ist, dass offenbar kein Nutzer den Verdacht hatte, es könne sich um KI-generierte Inhalte handeln. Die Autoren der Studie sehen hierin einen Hinweis auf mögliche Gefahren durch KI-gesteuerte Bot-Netzwerke, die unerkannt in Online-Communitys Einfluss nehmen könnten.
Ethik des Experiments in der Kritik
Die Art und Weise des Experiments lösten allerdings eine Debatte über ethische Standards aus. Kritisiert wird primär, dass die Reddit-Nutzer und Moderatoren im Vorfeld nicht informiert wurden. Zudem überschritten die Forscher offenbar den ursprünglich genehmigten Rahmen ihrer Studie, indem sie besonders sensible und personalisierte KI-Kommentare generierten, beispielsweise zu traumatischen Erlebnissen.
Um Sicherheitsvorkehrungen der verwendeten KI-Modelle zu umgehen, hatten die Forscher zudem fälschlicherweise angegeben, dass Nutzer der Datennutzung bereits zugestimmt hätten.
Nachdem das Experiment bekannt wurde, reichten die Moderatoren von r/ChangeMyView eine offizielle Beschwerde bei der Ethikkommission der Universität Zürich ein. Die Universität prüfte den Fall kritisch und sprach eine formale Verwarnung gegenüber den verantwortlichen Wissenschaftlern aus. Zugleich betonte sie jedoch, dass die Studienergebnisse von wissenschaftlicher Relevanz seien.
Die Universität Zürich kündigte infolge der Kritik an, künftig strengere ethische Prüfungen durchzuführen und intensiver mit betroffenen Communitys zusammenzuarbeiten. Weitere Wissenschaftler fordern jedoch grundlegend strengere ethische Richtlinien für KI-Experimente. Der Fall dürfte die Diskussion über Grenzen von KI-Forschung auf sozialen Plattformen nachhaltig beeinflussen.
Welche ethischen Maßstäbe sollten für KI-Forschung auf sozialen Plattformen gelten? Nutzen Sie die Kommentarfunktion und teilen Sie uns Ihre Meinung mit. Beachten Sie beim Kommentieren aber bitte die Forenregeln. Folgen Sie uns außerdem für Neuigkeiten in der Hardware-Welt oder unsere exklusiven Inhalte gern auf Whatsapp und X. Unsere Video-Inhalte (oftmals gewürzt mit einer Prise Humor) finden Sie bei Youtube, Instagram und Tiktok.
Quellen: New Scientist
Es wird immer absurder mit Manipulation, die Googlevorschläge der KI (welche einen on-site halten wollen) sind eigentlich immer Müll und die ohnehin ziemlich konfuse Generation der Boomer erkennt mehrheitlich weder KI Musik, KI Bilder oder die typischen Mäander-Texte.
Ich sehe überhaupt keine Eliten, Vorbilder oder Sprecher mit Gewicht, die sich gegen diesen dystopischen Giga-Spam stellen.