Künstliche Intelligenz ist in Bezug auf die Cybersecurity ein zweischneidiges Schwert. Einerseits wird AI fleissig von Hackern und Kriminellen eingesetzt, andererseits können die intelligenten Systeme dabei helfen, Betrug und Angriffe abzuwehren.

Wer ein Email-Postfach hat, kennt sie: Die gute alte Phishing-Mail. Da hat man plötzlich in einer Lotterie gewonnen, ein gewisser Herr Elon Musk oder ein Herr Ivan Glasenberg will einem 5 Millionen Dollar schenken, oder die eigene Bank fordert einen in etwas holpriger Sprache, kruder Grafik und einem falschen Link dazu auf, sich doch bitte mit allen persönlichen Angaben einmal in seinem Onlinebanking anzumelden. Was man bisher mit einer gesunden Portion Misstrauen und Vorsicht noch schnell als «Fake» erkennen konnte, dürfte in Zukunft schwerer zu durchschauen sein.

Nun hat die Swisscom in einem Bericht zu den aktuellen Cyberbedrohungen davor gewarnt, dass die Gefahren durch «AI-Based Attacks» (artificial intelligence), also durch künstliche Intelligenz (KI) unterstützte Angriffe, in den Fokus rücken. In den vergangenen Monaten habe sich bei den verfügbaren Tools ein regelrechter Evolutionssprung vollzogen.

Effektivere und effizientere Angriffe

Hacker könnten damit ihre Angriffe effektiver und effizienter durchführen, um Abwehrmassnahmen zu umgehen, warnt der Telekom-Konzern, der auch im Bereich Kommunikation, Datenübertragung und IT-Dienstleistungen Partner vieler Schweizer Banken ist.

Durch den Einsatz von KI könnten Phishing-Angriffe schwieriger zu enttarnen sein und die Empfänger können eher dazu verleitet werden, sensible Informationen preiszugeben oder schädliche Links anzuklicken.

Al Beispiel wird etwa das KI-Modell ChatGPT genannt, das entwickelt wurde, um menschenähnlichen Text zu generieren und als Sprachassistent zu fungieren. «Auch Cyberkriminelle haben es für sich entdeckt», heisst es in dem Bericht.

Das Unternehmen rechnet mit einer Verschmelzung von zielgerichteten Angriffen mit KI-generierten Phishing-E-Mails. «Durch entsprechende Automatisierung lassen sich so gezielte Phishing-Kampagnen mit völlig individualisierten, kontextabhängigen
E-Mails verfassen.»

KI kann Schwachstellen aufspüren

Aber noch auf einem anderen Gebiet steige die Bedrohung. Sprachmodell-KIs hätten zudem die Fähigkeit, Programmcodes auf Schwachstellen hin zu analysieren und Malware zur Ausnutzung der gefundenen Schwachstellen, inklusive geeigneter Angriffsvektoren, zu programmieren. «Das notwendige Know-how von Angreifern zur Durchführung komplexer Angriffe sinkt so weiter.»

Anders augedrückt: Mit KI können auch mittelmässig begabte Kriminelle gewiefte Attacken lancieren.

Gute versus schlechte KI

Aber auch auf der Unternehmensseite wird KI eine wichtige Rolle spielen. Es wird auch den Verteidigern bessere Möglichkeiten zur Erkennung und Abwehr von Cyberangriffen an die Hand geben, sind die Cyber-Sicherheitsexperten überzeugt. Zum Beispiel wenn es darum geht, KI-generierte Texte oder KI-generiertes Bild- und Videomaterial zu erkennen.

«Während sich KI-Technologien rasant weiterentwickeln, müssen wir uns bewusst sein, dass sie nicht per se gut oder böse sind», sagt Florian Leibenzeder, Leiter des Swisscom Security Operation Center. Es sei ein Werkzeug, das für beide Zwecke genutzt werden kann. «Die Herausforderung besteht darin, die Verteidigung weiter so zu stärken, damit auch KI-basierte Angriffe erfolgreich abgewehrt werden können –zukünftig zunehmend auch mit der Hilfe von ‘guter’ KI.»