Wie Cyberkriminelle KI nutzen und wie sie diese gern nutzen würden

"Wir diskutieren hier gerade über Science-Fiction-Szenarien." So fasste Jonathan Oliver den Verlauf, den seine Präsentation genommen hatte, zusammen. Oliver ist Data Scientist beim japanischen Cybersecurity-Anbieter Trend Micro. Zusammen mit seinem Kollegen Vincenzo Ciancaglini von Trend Micros "Forward-Looking Threat Research Team" sprach er Ende Februar 2021 darüber, wie Cyberkriminelle derzeit künstliche Intelligenz (KI) für ihre Machenschaften nutzen, nutzen könnten und nutzen werden.

Machen wir uns zu wenige Sorgen oder zu viele? Die Antwort auf diese Frage sei nicht einfach, sagte Ciancaglini. "Die möglichen Szenarien und das Potenzial sind definitiv beängstigend." Vieles davon ist aber noch nicht über Machbarkeitsnachweise oder Gedankenexperimente hinausgewachsen - daher die Anspielung auf Science Fiction.

Jonathan Oliver, Data Scientist bei Trend Micro, während der Präsentation. (Source: zVg)

So gibt es gemäss Ciancaglini etwa zurzeit noch keine Malware, die Bilder oder Stimmen erkennen und verstehen kann. Kein Schadprogramm, das während einer Videokonferenz Stimme und Gesicht einer Person mittels Deep-Fake-Technologien imitiert.

Falsche Stimmen

Wenn es um Social Engineering, also dem Austricksen von Menschen, geht, sind die heutigen Möglichkeiten erschreckend. So erwähnte Ciancaglini etwa die Voice-Cloning-Technologie von Resemble.ai. Diese könnte bei einer Sprachaufnahme die Stimme komplett austauschen - inklusive Akzent und Kadenz.

Solche Technologien - wie auch der Textgenerator GPT-3 - könnten sehr überzeugende CEO-Scams erschaffen. Die KI blieb etwa auf Reddit eine ganze Woche lang unentdeckt. Dass die Antworten nicht von einem Menschen kamen, flog nur deswegen auf, weil der Bot viel mehr Fragen beantwortete als ein Mensch überhaupt physisch hätte beantworten können.

Was Social Engineering genau ist und wie man sich davor schützt, lesen Sie hier.

Kriminelle sind sehr gut darin, den ROI abzuschätzen

Abseits von Social Engineering gebe es nur wenige konkrete Anwendungsfälle, die in Untergrundforen besprochen, auf Github belegt oder in den Analysedaten von Trend Micro auftauchen würden.

Was man jedoch sehe, sei, dass Cyberkriminelle ihre Brute-Force-Attacken mit KI aufrüsten. So könnten sie die Effizienz der Angriffe um bis zu 40 Prozent steigern. Bei einer Brute-Force-Attacke werden schlicht sämtliche Mögliche Kombinationen ausprobiert, um ein Passwort zu erraten. Da Passwortvariationen aber nicht zufällig sind, sondern eine gewisse Regelmässigkeit aufweisen, kann man eine KI darauf trainieren.

Gefälschte Nutzer

Ferner würde KI bereits genutzt, um Nutzerverhalten nachzuahmen. So würden Cyberkriminelle etwa bestimmte Künstler auf Spotify pushen. Die Bots wählen die Songs dabei nicht zufällig aus, sondern emulieren eine Person mit tatsächlichen Vorlieben.

Vincenzo Ciancaglini von Trend Micros "Forward-Looking Threat Research Team". (Source: zVg)

Die Möglichkeiten sind vorhanden. Aber: Cybercrime ist ein opportunistisches Geschäft. "Kriminelle sind sehr gut darin, den ROI abzuschätzen", sagte Ciancaglini. Das heisst, sie nutzen neue Technologien nicht bloss, weil sie interessant sind. Sie müssen zwingend besser sein als die Maschen, die sie bereits verwenden. "Und KI-Anwendungen sind noch immer schwierig zu realisieren." Sie erfordern Zeit, Expertise und finanzielle Ressourcen.

"Ich reche nicht damit, dass in den nächsten Jahren irgendetwas Grosses geschehen wird", sagte Ciancaglini. Deepfakes seien momentan die fortschrittlichste Methode. Aber auch diese Technologie werde nicht genutzt, um etwa Wahlen oder die Börse zu manipulieren.

Machine Learning und KI sind kein Allheilmittel

Es gibt zwar mehr als genug Material online, um ein Video zu erstellen, indem ein Politiker oder ein CEO einer grossen Firma vermeintlich etwas Skandalöses sagt. Aber wieso sollten kriminelle Gruppierungen diesen Aufwand auf sich nehmen, wenn sie einfach ein paar gefälschte Dokumente veröffentlichen und so denselben Effekt bewirken können?

Noch sei das die einfachste Möglichkeit. "Aber sobald diese Art der Manipulation schwieriger wird, werden Cyberkriminelle zu fortschrittlicheren Methoden wechseln", sagte Ciancaglini. "Kurz- und mittelfristig werden wohl lediglich staatlich unterstützte Akteure solche KI-gestützte Methoden nutzen", ergänzte Oliver.

Ausgetrickste Abwehr

Und wie sieht es auf der Gegenseite aus - bei der Cyberabwehr? Machine Learning sei sehr gut darin, abweichendes Verhalten zu erkennen und so etwa eine Ransomware-Attacke zu verhindern.

"Aber Machine Learning und KI sind kein Allheilmittel", sagte Oliver. Denn Cyberkriminelle haben auch schon einen Weg darum herum gefunden: Intrusion-based Ransomware. Zu diesem Zweck erwerben die Kriminellen zunächst Zugangsdaten zu einem Firmennetzwerk. Mit diesen loggen sie sich einfach ein, schalten die Cyberabwehr aus und installieren die Ransomware anschliessend händisch auf den Rechnern.

"Da Machine Learning nicht funktioniert, wenn es ausgeschaltet ist, ist dies ein sehr effektiver Ansatz", scherzte Oliver. Entsprechend häufig werde die Methode auch genutzt. Darum sei es wichtig, eine vielschichtige Abwehr aufzubauen, in der KI zwar eine Rolle spielt, jedoch unterstützt wird von Intrusion Prevention, aktuellen Patching und restriktiven Admin-Tools.

"Eine perfekte Cyberabwehr gibt es nicht", sagte Oliver. "Aber man kann es für die Cyberkriminellen so teuer wie möglich machen." Wenn es der finanzielle Aufwand, in ein System einzudringen, grösser ist, als der mögliche Gewinn, der daraus entstehen könnte, ist dieses System relativ sicher.

80-seitige Studie

Trend Micro veröffentlichte Ende 2020 zusammen mit Europol und dem UN Interregional Crime and Justice Research Institute (UNICRI) ein Whitepaper zum Thema KI. Das 80-seitige PDF-Dokument können Interessierte hier herunterladen.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den wöchentlichen Newsletter von Swisscybersecurity.net an. Auf dem Portal gibt es täglich News über aktuelle Bedrohungen und neue Abwehr-Strategien.