"Wir leben im Zeitalter der Scams"

ChatGPT, Voice Cloning und Co. vereinfachen auch digitale Betrugsmaschen

ChatGPT, Dalle und andere frei verfügbare KI-Werkzeuge sorgen momentan für großen Wirbel. Sie unterstützen und beschleunigen alle möglichen Arbeiten und sind in vielen Situationen sehr nützlich. Doch wie jede Technologie haben auch die smarten KI-Anwendungen ihre Schattenseiten: Unsere IT-Forensik-Expertin Inna Vogel sieht mit den unzähligen Möglichkeiten von maschinen-unterstützter Erstellung von Texten, Audiodateien, Bildern und Videos eine große Gefahr durch Betrugsmaschen. "Wir leben im Zeitalter der Scams", stellt sie fest.

Denn Scams, also Betrügereien wie der Enkeltrick oder Anrufe des (vermeintlichen) Bundeskriminalamts gewinnen durch KI eine neue Dynamik. Chat-Nachrichten lassen sich -zigfach und in Sekundenschnelle mit einer Text-KI wie ChatGPT erstellen, so können viele Opfer gleichzeitig und trotzdem personalisiert angesprochen werden. Videoschnipsel der vermeintlichen eigenen Kinder können über KI erstellt werden und Vertrautheit vorspielen. Für Finanz-Scams könnten Betrüger Grafiken auf einer gefakten Webseite erstellen lassen, die einen hohen Gewinn an der Börse suggerieren. Und Anrufer, die KI-gestützt die Stimme eines Familienmitglieds imitieren und um Geld bitten, sind um ein Vielfaches glaubwürdiger als der herkömmliche Enkeltrick.

Inna Vogel ist Textforensikerin und forscht am Fraunhofer SIT zu großen Sprachmodellen (LLM - Large Language Models)  wie GPT3 und den Nachfolger GPT4, auf denen ChatGPT basiert.


Einige der gängigsten Betrugsmaschen:

  • Love scams: Auf Flirt- und Partnerschaftsportalen sind diese Art von Scams ein Problem: Schätzungen zufolge liegen sie im niedrigen zweistelligen Prozentbereich. Die Betrüger bauen erst eine vertrauensvolle Beziehung über Chat-Nachrichten und vermeintlich echte, private Fotos auf und fragen dann irgendwann nach Geld, weil sie in einer vorgetäuschten Notsituation sind.
  • Finanz-Scams: Häufig ebenfalls auf Flirt-Portalen, aber auch auf beruflichen Social-Media-Plattformen zu finden. Hier berichten die Scammer von ihrem vorgeblichen Beruf in der Finanzbranche, High-Risk-Anlagen oder ähnlichem. Das Opfer investiert hier eine Summe, erhält regelmäßige Status-Updates über seinen vermeintlichen Gewinn, beispielsweise über gefakte Webseiten.
  • Wohnungs-Scams: Auf Immobilienportalen werden schöne Wohnungen zu sehr guten Konditionen inseriert - nach einer Anfrage erhalten Interessierte eine positive Antwort, dass sie die Wohnung mieten können. Der Vermieter befinde sich jedoch im Ausland, könne sich deshalb nicht persönlich treffen, nach Anzahlung einer Kaution o.ä. erhalte man den Schlüssel dann per Post. Während die Mails bisher in gebrochenem Deutsch verfasst wurden, schreibt ChatGPT E-Mails in sehr gutem Deutsch, was den Betrug nicht ganz so ersichtlich macht.
  • Trick-Anrufe: Das Bundeskriminalamt, eine Polizeidienststelle, Interpol oder eine ähnliche Einrichtung wird genannt und das Opfer am Telefon unter Druck gesetzt, und man solle schnell Geld überweisen. Auch vorgebliche Mitarbeitende von Microsoft oder, ganz klassisch, ein Verwandter (Enkel, Sohn/Tochter, ...) rufen an und brauchen dringend Geld.

Allgemeine Regeln zum Schutz vor Scams

Betrügereien und Scams gibt es auf allen Plattformen, Kanälen und Portalen, beim Online-Shopping, Partnerbörsen, digitalen Kleinanzeigen, Auktionsportalen. Um sich zu schützen und nicht auf Scams hereinzufallen, auch wenn sie sehr gut gemacht sind, rät Expertin Inna Vogel:

  • Sich nicht unter Druck setzen lassen
  • Wenn Geldzahlungen gefordert werden: höchstes Misstrauen
  • Bei Käufen: Sichere Zahlungswege wählen, am besten die der jeweiligen Plattform
  • Immer auf der Plattform bleiben, keine privateren Kommunikationswege anbieten (z. B. über WhatsApp)