Definition FraudGPT Was ist FraudGPT?

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Cohesity GmbH

Arctic Wolf Networks Germany GmbH

FraudGPT ist ein unmoderierter Chatbot, der auf Cyberkriminalität und Betrug spezialisiert ist. Er basiert auf einem großen Sprachmodell, das für kriminelle Zwecke trainiert wurde. Angeboten wird der Chatbot im Darknet und in Telegram-Kanälen. Er lässt sich beispielsweise für Phishing-Kampagnen einsetzen. Der Chatbot soll aber auch bösartigen Code generieren können.

FraudGPT ist der Name eines seit Juli 2023 im Darknet und in Telegram-Kanälen angebotenen und auf Cyberkriminalität und Betrug spezialisierten Chatbots. Der Chatbot ist unmoderiert und für die Nutzung durch Cyberkriminelle vorgesehen. Wer den Chatbot entwickelt hat, ist unklar. Der Entwickler nennt sich selbst "CanadianKingpin".

FraudGPT basiert auf einem großen Sprachmodell (Large Language Model - LLM), das ebenfalls nicht bekannt ist. Es wurde speziell für kriminelle Zwecke trainiert. Ein hinsichtlich Funktionsweise und Einsatzmöglichkeiten ähnlicher Chatbot ist WormGPT, der ebenfalls seit circa Sommer 2023 im Darknet und kriminellen Kreisen kursiert. Nutzbar ist FraudGPT über eine Chat-Oberfläche und Textanweisungen (Prompts) vergleichbar zu öffentlichen oder kommerziellen Chatbots wie Gemini oder ChatGPT.

Die Fähigkeiten des Chatbots basieren auf Künstlicher Intelligenz und reichen vom Erstellen von Texten für Phishing-Mails und Phishing-Kampagnen über das Schreiben von bösartigem Programmcode oder das Knacken von Passwörtern bis zum Aufspüren von potenziellen Betrugsopfern. Die Nutzung des kriminellen Chatbots ist kostenpflichtig. Im Darknet und in Telegram-Kanälen werden Preise von 200 Dollar pro Monat bis 1.700 Dollar pro Jahr genannt. Angeblich gibt es schon mehrere tausend zahlende Nutzer.

Die Fähigkeiten und Einsatzmöglichkeiten des Cybercrime-Chatbots

FraudGPT besitzt eine Vielzahl an Fähigkeiten. Die grundsätzlichen sprachlichen Standardfähigkeiten sind mit denen nicht krimineller Chatbots vergleichbar. Der Chatbot kann Texte generieren, die sprachlich, grammatikalisch und orthografisch einwandfrei sind. Darüber hinaus ist er prinzipiell auch in der Lage, Programmcode zu verstehen und zu erzeugen.

Im Netz kursierende Screenshots zeigen lediglich englischsprachige Antworten. Ob der Chatbot auch andere Sprachen beherrscht und wenn ja welche, ist nicht bekannt. Da das zugrundeliegende Sprachmodell mit Texten und Datenmaterial aus dem kriminellen Umfeld trainiert wurde und unmoderiert ist, das heißt keine speziellen Sicherheitsvorkehrungen bezüglich der Chatbot-Antworten vorgesehen sind, ist FraudGPT für zahlreiche bösartige Zwecke einsetzbar. Zu den vom Entwickler genannten Fähigkeiten des Chatbots zählen:

• Phishing- und Spear-Phishing-Nachrichten schreiben

• Phishing-Webseiten erstellen

• Quellcode für nicht detektierbare Malware oder Cracking-Tools und andere Hacking-Tools generieren

• potenzielle Opfer für Betrugskampagnen finden

• professionell aussehende Scamming-Nachrichten schreiben und Scam-Pages erstellen

• Sicherheitslücken und Schwachstellen aufspüren

• verschiedene Hilfestellungen beim Kreditkartenbetrug

Um die Fähigkeiten des bösartigen Chatbots zu veranschaulichen, im Folgenden zwei einfache Beispiele (in deutscher Sprache).

Eine Beispielanweisung (Prompt) an den Chatbot könnte lauten:

Ein weiterer Beispielprompt könnte folgendermaßen aussehen:

Die prinzipielle Funktionsweise von FraudGPT

Was die technischen Details, das zugrundeliegende große Sprachmodell und das Training von FraudGPT angeht, ist nur wenig bekannt. Das Kürzel GPT im Namen FraudGPT lässt darauf schließen, dass es sich beim verwendeten Sprachmodell um ein Modell handelt, das der Architektur und Funktionsweise eines Generative Pre-trained Transformers ähnelt. Auf dieser Architektur basieren zum Beispiel die großen kommerziellen Sprachmodelle von OpenAI wie GPT-3 oder GPT-4. Der Zugriff auf das Sprachmodell von FraudGPT ist nur über die Chatbot-Oberfläche möglich. Auch bezüglich des für das Training oder die Feinabstimmung verwendeten Trainingsmaterials gibt es keine Informationen. Vermutlich wurde aber kriminelles Material aus dem nicht öffentlichen Internet, dem Darknet und aus anderen Quellen genutzt. Im Vergleich zu öffentlich zugänglichen und kommerziellen Chatbots sind in FraudGPT keine Mechanismen eingebaut, die sicherstellen, dass kein bösartiger Output generiert wird. FraudGPT liefert daher jeglichen Text und Code für kriminelle, betrügerische und bösartige Zwecke.

Gefahren und Risiken durch KI-Modelle wie FraudGPT

Bösartige, unmoderierte und mit kriminellen Daten trainierte Chatbots bringen zahlreiche Gefahren und Risiken mit sich. Zu diesen zählen:

• Die KI eröffnet jedem, auch technisch weniger versierten Personen, die Möglichkeit zum Betrüger oder Cyberkriminellen zu werden.

• Die Schwelle für Cyberkriminalität sinkt.

• Betrugskampagnen wie Phishing-Kampagnen sind qualitativ hochwertiger und haben größere Erfolgsaussichten (Texte sind fehlerfrei geschrieben, wirken überzeugender und sind schwerer von nicht kriminellen Texten zu unterscheiden).

• Betrugskampagnen lassen sich leichter personalisieren.

• Potenzielle Betrugsopfer sind leichter zu finden.

• Der Umfang und die Zahl von Cyberangriffen könnten steigen.

• FraudGPT kennt in Sachen Betrug keine ethischen Grenzen.

• Schwachstellen und Sicherheitslücken lassen sich einfacher aufspüren und ausnutzen.

(ID:49945623)