Facebook-Bot Blender beleidigt Nutzer nach Reddit-Trainingssitzung
Wie andere Unternehmen auch, hat Facebook einen eigenen Chatbot in Entwicklung, der durch Mustererkennung und Deep-Learning-Algorithmen das Sprechen lernt. Beim Training mit Reddit-Usern werden aber - laut einem BBC-Bericht - die Grenzen aufgezeigt.
Chatbots sind eine der Möglichkeiten für Unternehmen, um mit möglichst vielen Personen in Kontakt treten zu können, ohne echte Menschen dafür in einem Callcenter zu benötigen. Viele Firmen entwickeln an diesen KIs, so auch Facebook mit dem Bot namens Blender. Laut einem Bericht der BBC beleidigt Blender jedoch munter Nutzer bei Reddit. Vorausgegangen waren etliche Trainingsdatensätze.
Chatbots als Callcenter-Ersatz - aber oftmals mit Problemen bei der Konversation
Die Idee hinter Chatbots ist es, die Interaktion mit Menschen möglichst effizient zu gestalten. So soll derartige KI in der Lage sein, eine Konversation mit Personen zu führen. Unternehmen hoffen, mit Chatbots langfristig auf Callcenter verzichten zu können und den Kundenservice fast nur noch über Bots abwickeln zu können. Hinter den Chatbots liegen Algorithmen, die versuchen anhand von möglichst vielen Trainingsdaten, Muster zu erkennen und so mittels Machine Learning zu versuchen, ein neuronales Netz abzubilden. Oftmals werden die verschiedenen genutzten Techniken der Einfachheit unter KI-Technologie zusammengefasst. Zum Training habe Facebook - laut BBC - etwa 1,5 Milliarden Konversationen im Internet geführt.
"So großartig wie die Plattform Reddit ist: Um Algorithmen zu trainieren, die auf den dort zu findenden Konversationen basieren, wird man viel Spreu vom Weizen trennen müssen", KI-Forscher und -Berater Dave Coplin.
Die Texte stammen aus Public-Domain-Quellen wie etwa Reddit. Oftmals habe Blender mit beleidigenden Antworten den Fragen der Nutzer geantwortet, so BBC. Manchmal habe der Chatbot sogar Fake News in die Unterhaltung eingebaut oder erfundene Fakten. Facebook betont, dass etwa 49 Prozent aller Nutzer die Konversation mit Blender der Unterhaltung mit einem echten Menschen bevorzugt hätten. Im Vergleich zum Chatbot Meena von Google hätten 67 Prozent der User Blender von Facebook den Vorzug gegeben, so zumindest die Aussage von Facebook.
Einige Unternehmen benutzen bereits Chatbots, vor allem im Bereich Kundenservice. So verwendet der Telekommunikationsanbieter Telefónica mit seiner Marke O2 den Chatbot namens Aura bei Fragen rund um Rechnungen. Hierzu setzt die Firma auf das Microsoft Bot Framework, welches auf Cloud Computing und Azure-Technologie sowie die Funktionsweise der digitalen Assistentin Microsoft Cortana zurückgreift. Auch andere Softwarefirmen stellen Technologie für Unternehmen bereit, damit diese eigene Chatbots oder digitale Assistenten entwickeln können.
Ebenfalls lesenswert: Bericht: Sind Bots schuld am Ausverkauf der Nintendo Switch in der Coronakrise?
Sammlung zur Entwicklung und Nutzung von Chatsbots:
- Laut einem Bericht der BBC beleidigt Facebooks Chatbot Blender immer wieder Nutzer bei Reddit. Der Konzern hatte 1,5 Milliarden Konversationen mit Menschen in öffentlich einsehbaren Webseiten geführt und trainiert so den eigenen Chatbot.
- So hat man etwa Unterhaltungen auf Reddit genutzt, um Blender zu trainieren. Laut Facebook würden 49 Prozent der Tester einen Chat mit dem Chatbot einer Unterhaltung mit echten Menschen vorziehen.
- Einige Unternehmen benutzen bereits Chatbots, vor allem im Bereich Kundenservice. So verwendet der Telekommunikationsanbieter Telefónica mit seiner Marke O2 den Chatbot namens Aura bei Fragen rund um Rechnungen.
1) Facebook war zu schlampig bzw. habt es sich zu einfach bei er Entwicklung des Bots gemacht
Bevor man ein Neuronales Netz (KNN = artificial neural network )trainiert, ist man sehr genau das Ziel des Neuronalen Netzes zu definieren und die Daten dementsprechend vorzuselektiert.
Das ist auch das was der KI-Forscher und Berater Dave Coplin gemeint hat:
Dafür nimmt man z.B. ein schon fertig trainiertes KNN welches entscheidet ob ein Nachricht freundlich oder unfreundlich ist (binary classification genannt). Dies wendet man auf alle Nachrichten von Reddit an und filtert so alle Posts heraus die unfreundlich sind.
Nun nimmt man alle daraus entstandenen freundlichen Nachrichten und benutzt ein weiteres trainiertes fertiges KNN, dass entscheidet ob ein Post "Fake News" ist. Hieraus gewinnt man dann alle richtigen Nachrichten auf Reddit. Nur diese verwendet man dann weiter.
Man wiederholt die obigen beiden Schritte und testet ob man nun schon gute Daten (also wahrheitssagende freundliche Nachrichten) herausgefiltert hat. Möglicherweise reduziert man mit weiteren KNNs die Nachrichten auf Reddit noch mehr bis man glaubt es gibt nur noch gute zielführende Nachrichten (gute zielführende Trainingssätze).
Man schaut nun ob noch ausreichend Nachrichten zum trainieren des Chatbost übrig geblieben sind.
Mit diese entwickelt man dann erst das KNN für den neuen Chatbot.
2) die Nachrichten auf Reddit sind zum Teil beleidigend und enthalten falsche Tatsachen
Wenn man ein Kleinkind bei Menschen aufwachen lässt, die lügen und andere beleidigen, dann wird das Kind später genauso handeln.
Genauso ist es auch mit dem Chatbot. Da er
3a) man kann neue Technologie zum Guten oder zum Schlechten verwenden
3b)je nach Anwenung der neuen Technologien der KI fällt auch die öffentliche Bewertung (bzw. Reaktion) anders aus
Ich frage mich wie Menschen die neuen Technologie der KI (Künstliche Intelligenz) bewerten, wenn man sie folgende beiden Beispiele bewerten lässt:
a) den Chat- und Navigationbot von hier:
YouTube
b) die Chatbotbeispiele aus dem Artikel von
https://www.pcgameshardwa...
Wie bewertet ihr den Chatbot von a) und die Beispiele von b) ?
Gerade die Jüngeren Generation sieht oft Beleidigung als normalen Umgangston an, was so eine Ki dann schon wieder als Normal ansieht.
Auf Facebook schreiben die jüngeren wohl eine vielfaches mehr als die älteren Genrationen, was dann für eine KI am ende Kontraproduktiv ist.
Dass merkt man im übrigen bei vielen anderen Webseiten, wo es beim Kommentar bereich von Artikel schnell zu Angriffen und Beleidigungen kommt. Ironischer weise hat PCGH damit weitaus weniger Probleme als andere Seiten, auch wenn es hier auch hin und wieder zu Anfeindungen kommt und sicher nicht die Regel ist.
Hängt aber gegebenenfalls auch vom Vorwissen des Suchenden ab. Ich rede mir immer ein, dass es wohl ein überdurchschnittlich komplexes Problem sein muss, wenn ich selbst nicht mehr weiter weiß und einen Support bemühen muss.
Die waren mal sehr FreeSpeach.
Es ist dann wie Satire oder Komedie, da lacht man auch, obwohl man durchaus persönlich angegriffen werden kann.