gesponsertInsider Research im Gespräch Was KI für die Cybersicherheit wirklich bedeutet

Gesponsert von

Sophos Technology GmbH

Insider Research

In Sachen IT-Sicherheit können sich KI-Modelle als nützliche Werkzeuge erweisen, so das BSI. Sie können zum Beispiel beim Erkennen von Phishing-Mails hilfreich sein. In gleichem Maße bergen KI-Modelle aber auch Risiken. Wie beeinflusst KI und speziell ChatGPT die Cybersicherheit heute, wie wird sie dies in Zukunft tun? Das Interview von Insider Research mit Michael Veit von Sophos liefert Antworten.

Ein Beispiel von vielen: Sophos X-Ops hat verschiedene Apps in den offiziellen Stores von Apple und Google aufgedeckt, die sich als legitime, ChatGPT-basierte Chatbots ausgeben, Nutzer mit verschleierten, oftmals enorm hohen Gebühren abzocken und den Betrügern so monatlich Tausende von Dollar in die Tasche spülen.

Aber der Hype um KI wird nicht nur ausgenutzt. Es gibt auch positive Anwendungen davon: Die Experten von Sophos AI sehen in GPT-3 enorme Potentiale. Beispielsweise ist es relativ einfach, einen unmarkierten Datensatz zu finden; allerdings ist es meist sehr zeitaufwändig und schwierig, einen markierten Datensatz für das Training eines herkömmlichen maschinellen Lernmodells zu erstellen. Herkömmliche maschinelle Lernmodelle, die mit wenigen Beispielen trainiert werden, weisen häufig Probleme mit der Überanpassung auf. Sprich, sie lassen sich nicht gut auf zuvor nicht existente Beispiele verallgemeinern. Mit dem GPT-3 „Few-Shot Learning“ hingegen benötigt Sophos AI nur wenige kommentierte Trainingsbeispiele und übertrifft damit herkömmliche Modelle.

Im Gespräch mit Oliver Schonschek, News-Analyst bei Insider Research, erklärt Michael Veit, Technology Evangelist bei Sophos, unter anderem:

• KI ist in aller Munde, viele erhoffen sich Hilfe durch KI, andere sehen vermehrt Risiken. Sehr greifbar ist ChatGPT, viele Unternehmen planen die Nutzung, nicht wenige tun es bereits. Welche Risiken bestehen dabei, zum Beispiel für den Datenschutz?

• Wird ChatGPT denn bereits von Cyberkriminellen genutzt? Welche Attacken werden möglich / erleichtert?

• Kann man also mit ChatGPT Malware schreiben und Phishing-Mails? Oder gibt es da Filter und Sperren?

• Was machen Angreifer? Die Filter umgehen? Eigene KIs nutzen?

• Kann man denn etwas wie ChatGPT auch für die Cybersicherheit nutzen? Gibt es da Beispiele?

• Eigentlich ist KI in der Security nicht neu. Hat die Verteidigung hier ggf. einen Zeitvorteil?

• Wie kann man denn eine bösartige KI erkennen? Am Verhalten?

• Welche Bedeutung wird denn KI erlangen, in der Security und im Cybercrime, sagen wir in 5 bis 10 Jahren? Kann man da etwas sagen?

• Wird es dann den Kampf KI gegen KI geben oder gibt es den schon?

• Welche Tipps haben Sie abschließend für Unternehmen, die KI nutzen wollen?

Der neue Podcast steht bei Captivate, bei Soundcloud, bei Google Podcasts, bei Apple Podcasts, bei Spotify, bei TuneIn, bei Deezer, und bei YouTube zur Verfügung. Am besten gleich reinhören, bei "Insider Research im Gespräch", dem Podcast mit den Insidern der Digitalen Transformation!

(ID:49694439)