KI im Kampf gegen Scammer: Die Rache der Technik
O2 setzt in Großbritannien eine KI im Kampf gegen Betrüger ein. Die Technik suggeriert einen menschlichen Gesprächspartner.
O2 setzt im Vereinigten Königreich auf KI im Kampf gegen Scammer. Mittels künstlicher Intelligenz wird den Betrügern am Telefon suggeriert, dass sie mit einer echten alten Dame sprechen, die redselig ist. Wenn die Betrüger dann um die Bankdaten der Person bitten, damit sie sie bestehlen können, bekommen sie von der KI lediglich falsche Nummern und Namen genannt.
Ziel des Ganzen ist es, die Scammer so lange wie möglich in der Leitung zu halten. Damit soll ihnen Zeit geraubt werden, in der sie ansonsten echte Menschen betrügen könnten, und auf der anderen Seite werden die Gespräche auch dazu genutzt, etwas über die Tricks und Techniken der Betrüger zu lernen. Der Vorteil der KI ist, dass sie Tag und Nacht verfügbar ist.
Solche langen Konversationen bringen dann auch den ein oder anderen Scammer an seine Schmerzgrenze, wie man im Video hören kann. Einige Konversationen sollen rund 40 Minuten gedauert haben.
Bei der Erstellung der KI hat Jim Browning mitgeholfen. Er betreibt den gleichnamigen Youtube-Kanal, bei dem es ihm darum geht, Scammer zu identifizieren und zurückzuverfolgen.
Die KI arbeitet in Echtzeit, dabei werden die Gespräche von Stimme zu Text übersetzt, dann mittels eines angepassten LLMs (large language model) über eine Persönlichkeitsebene gefiltert, wieder in Sprache verwandelt und dann ausgegeben. Das Gegenüber währt sich währenddessen in einem ganz normalen Gespräch. Kunden in Vereinigten Königreich haben keinen direkten Zugriff auf die KI. Ihre Nummer wurde einer Liste von einfachen Zielen hinzugefügt, wie sie Scammer nutzen, um an potenzielle Opfer zu gelangen.
Ziel ist es, laut Murray Mackenzie, dem Chef der Betrugsabteilung von Virgin Media O2, alles Erdenkliche zu tun, um Scammer zu stoppen; von der Firewall bis hin zum Einsatz von KI. 71 % der Briten würden sich gerne an Scammern rächen, die ihnen oder ihren Nahestehenden Schaden zugefügt haben, wollen jedoch nicht ihre Zeit vergeuden mit Scambaiting. So entstand die Idee, das doch einfach von einer KI übernehmen zu lassen. So rächt sich die Technik, im Auftrag der Menschen. Einige sehen allerdings eine Gefahr darin, dass die Technik in der Lage ist, so authentisch in einer Konversation zu agieren. Ähnliche Technologie wird teils auch seitens der Scammer eingesetzt, um ein Gespräch mit einem Angehörigen zu simulieren.
Ich nehm' den gleichen Algorithmus dann auch bitte direkt in der Outgoing-Variante für 1-Stündige-Hotline-Warteschleifen.
Kann natürlich sein das die KI Persönlichkeiten so gut trainiert sind das sie solche Fragen ab blocken usw. Es kommt eben aufs Training an. Unfehlbar ist derzeit keine KI.
- Wenn der "Enkel" die Oma bittet, mal eben dreistellige Zahlen im Kopf zu multiplizieren oder sich sonstwie komisch verhält, dann könnte die Oma mißtrauisch werden -> Ziel erreicht.
- Wenn die Betrüger nach 10 min abbrechen, weil sie sich nicht sicher sein können, ob da eine KI dahintersteckt -> Ziel erreicht.
- Wenn sich die Betrüger bei jedem Anruf fragen müssen, ob sie einen Menschen verarschen oder nicht und das ganze permanent möglichst unauffällig abklopfen müssen -> Ziel erreicht.
- Wenn sich in Betrügerkreisen irgendwelche Legenden bilden ->Ziel erreicht.
Jede Minute, die die Betrüger beschäftigt sind, können sie niemand anderen ausnehmen. Ich hab mal eine Callcentermitarbeiterin, die mir einen Buchclub unterjubeln wollte, eine halbe Stunde hingehalten. In der Zeit hätte sie wahrscheinlich versucht 3-5 andere Leute übers Ohr zu hauen, daraus wurde nichts.
Die Frage ist natürlich, ob das auf Dauer funktioniert.
Sobald sie Scammer das spitz kriegen, gibt es sicher Möglichkeiten die "KI" durch gezielt eingestreute Fragen aus dem Tritt zu bringen.
Kann natürlich sein das die KI Persönlichkeiten so gut trainiert sind das sie solche Fragen ab blocken usw. Es kommt eben aufs Training an. Unfehlbar ist derzeit keine KI.
Das heißt nicht das KI nicht unfehlbar sind...