Sind Chatbots die neue Waffe von Online-Betrügern?
Das rasante Aufkommen von Modellen künstlicher Intelligenz wie ChatGPT, die auf der Verarbeitung natürlicher Sprache basieren, verändert die Landschaft der Online-Betrug grundlegend. Welche Chancen bieten diese neuen Tools? Und welche Risiken bestehen für Nutzer, wenn sie in die Hände von Betrügern gelangen? Wir werfen einen Blick auf die Möglichkeiten, die künstliche Intelligenz im Bereich der Online-Betrug bietet.
Sind Chatbots die neue Waffe von Online-Betrügern?
Obwohl ChatGPT derzeit so programmiert ist, dass es sich nicht direkt an böswilligen Online-Betrug beteiligt, könnten KI-Tools dennoch die Praktiken von Betrügern revolutionieren.
Johanne Ulloa, Director of Solutions Consulting bei LexisNexis Risk Solutions, betont: „Chatbots können nach wie vor dazu genutzt werden, die Wirksamkeit von Phishing-E-Mails zu verbessern, da es keine Möglichkeit gibt, Texte zu verhindern, in denen Kunden aus Sicherheitsgründen aufgefordert werden, sich bei einem Online-Konto anzumelden.“
Dank Text-to-Speech-Tools kann künstliche Intelligenz (KI) auch dazu verwendet werden, Sprachauthentifizierungssysteme zu umgehen. „Diese KI-Systeme können einen Text ‚lesen‘ und eine aufgezeichnete Stimme nachbilden. Einige Menschen haben Nachrichten von ‚Verwandten‘ erhalten, deren Stimmen nach dem gleichen Prinzip gefälscht wurden“, betont Johanne Ulloa. Diese Vorgehensweise ähnelt der von Deepfakes.
Die weit verbreitete Präsenz von Chatbot-Anwendungen in App-Stores für Mobilgeräte könnte ebenfalls eine Gefahr darstellen, da sie die Verbreitung bösartiger Anwendungen begünstigt.
Social-Engineering-Betrug: das Risiko einer Ausweitung
Die weit verbreitete Nutzung starker Authentifizierungssysteme veranlasst Betrüger dazu, ihre Vorgehensweisen zu ändern und ihre Bemühungen zu verstärken, um Social-Engineering-Betrügereien durchzuführen.
Dies ist ein weit gefasster Begriff, der sich auf „Betrugsmaschen bezieht, bei denen Kriminelle das Vertrauen einer Person ausnutzen, um direkt an Geld zu gelangen oder vertrauliche Informationen zu erhalten, die ihnen ein späteres Verbrechen ermöglichen“ (Quelle: Interpol). Er impliziert, dass die Opfer selbst unter dem Einfluss des Betrügers am Telefon die starke Authentifizierung durchführen.
Und das gilt nicht nur für normale Nutzer. „Die Methoden einiger Betrüger sind sehr ausgeklügelt und können sogar hochrangige Fachleute wie Finanzdirektoren täuschen“, sagt Johanne Ulloa.
Vor diesem Hintergrund stellt der Einsatz künstlicher Intelligenz durch Betrüger eine echte Gefahr für Unternehmen und Nutzer gleichermaßen dar. Während Betrügereien derzeit auf Peer-to-Peer-Basis durchgeführt werden (ein Betrüger, ein Opfer), wobei sich die Aufmerksamkeit des Betrügers jeweils auf ein Ziel konzentriert, könnte der Einsatz von Chatbots und Text-to-Speech-Tools die Situation grundlegend verändern, da diese Techniken damit massenhaft eingesetzt werden könnten. „Betrügerische Callcenter-Plattformen werden wahrscheinlich durch KI-Assistenten ersetzt werden, wodurch Betrüger ihre Aktivitäten ausweiten könnten“, sagt Johanne Ulloa.
Hier ist ein mögliches Szenario:
- Der Betrüger verschickt eine Phishing-E-Mail.
- Das Opfer füllt das Formular mit seinen persönlichen Daten, seinem Login und Passwort, seiner Telefonnummer und dem Namen seines Bankberaters aus.
- Ein Bot ruft die Bank an und zeichnet die Stimme des Beraters auf (die Reproduktion der Stimme dauert nur wenige Sekunden).
- Der Chatbot muss dann nur noch das Opfer mit der Stimme des Bankberaters anrufen, um es davon zu überzeugen, etwas zu authentifizieren oder eine Überweisung zu tätigen.
Das Dilemma der Datenvertraulichkeit
Für Johanne Ulloa ist jedoch „der Einsatz von KI bei Betrugsdelikten noch marginal, und das größte Risiko dieser Art von Tools hängt derzeit mit der Vertraulichkeit von Daten zusammen“. Tatsächlich mag der Einsatz von Chatbots harmlos erscheinen, und einige Nutzer, die sich der Vertraulichkeitsproblematik nicht bewusst sind, könnten dazu neigen, sensible Informationen preiszugeben.
Wie diese Informationen von Sprachmodellen verarbeitet werden, ist noch immer ein Rätsel. Was wir wissen, ist, dass diese Informationen wahrscheinlich vom Chatbot wiederverwendet werden, wie kürzlich der Fall der Entwickler eines großen Mobilfunkunternehmens oder der Fall eines Konversationsagenten-Redakteurs gezeigt hat, der sein Modell aufgrund eines ähnlichen Problems vorübergehend deaktivieren musste.
Angesichts der internen Einschränkungen des Sprachmodells, der Identifizierung sensibler Daten durch den Nutzer, der Vertraulichkeit dieser Daten und der Sensibilisierung von Privatpersonen und Unternehmen gibt es im Bereich der Prävention noch viel zu tun.
Der Einsatz von KI zur Bekämpfung von Betrug
Aber wenn dieses Bild düster erscheint, können Sie sicher sein, dass Tools der künstlichen Intelligenz auch im Kampf gegen Online-Betrug ihren Nutzen haben.
Auch wenn es sich nicht um KI-Assistenten handelt, wird KI bereits in großem Umfang eingesetzt, um mithilfe von Modellen des maschinellen Lernens Betrugsversuche aufzudecken und zu verhindern. Dank ihrer großen Flexibilität können sich diese KI-Algorithmen zudem effektiv an die Weiterentwicklung der Online-Betrugsmethoden anpassen. Durch die Möglichkeit, riesige Datenmengen in Echtzeit zu analysieren und Muster zu erkennen, die auf betrügerische Aktivitäten hindeuten könnten, „können Chatbots dazu beitragen, die Ermittlungen der Analysten zu verbessern“, erklärt Johanne Ulloa.
Die Fähigkeit, Betrug zu erkennen, reicht nicht aus.
Eine strengere Authentifizierung zur Erkennung von Betrugsversuchen kann für legitime Kunden längere Prozesse mit sich bringen. LexisNexis® ThreatMetrix® ist eine zuverlässige und effektive Ergänzung zu herkömmlichen Lösungen zur Betrugserkennung, die das Benutzererlebnis deutlich vereinfacht – und dabei ein hohes Maß an Sicherheit bietet.