Ein Artikel von Michael Horchler, Chief Security Officer bei Perseus Technologies GmbH
In der heutigen digitalisierten Welt sind Unternehmen zunehmend auf IT-Sicherheit angewiesen, um ihre Daten und Systeme vor immer ausgefeilteren Cyberangriffen zu schützen. Parallel dazu wächst die Rolle der Cyberversicherung als Schutz gegen finanzielle Verluste und betriebliche Unterbrechungen als Folge von Cyberangriffen. Eine Technologie, die in diesem Bereich immer mehr an Bedeutung gewinnt, ist die künstliche Intelligenz (KI). Die Integration von KI in die Cyberversicherungsbranche eröffnet sowohl Versicherern als auch Versicherungsnehmern eine Vielzahl von Möglichkeiten und Herausforderungen. KI-basierte Cyberangriffe können die Bedrohungslandschaft verschärfen – allerdings auch präventive Bemühungen und Reaktionen sowie die Bewertung von IT-Sicherheitsrisiken optimieren.
KI-basierte Phishing- und Social-Engineering-Angriffe
Phishing und Social Engineering sind bewährte Techniken, die Cyberkriminelle nutzen, um sensible Informationen von ihren Zielpersonen zu erlangen. Mit der fortschreitenden Entwicklung der KI haben diese Angriffe jedoch eine neue Dimension erreicht. KI ermöglicht es Angreifern, hochgradig personalisierte und überzeugende Phishing-E-Mails zu versenden, die das Erkennen der Nachrichten als Betrugsversuch stark erschweren.
Der immer weiter verbreitete Einsatz großer Sprachmodelle (LLM) ermöglicht die Erstellung äußerst raffinierter Phishing-Nachrichten. Diese Modelle verarbeiten und analysieren große Mengen an Daten und können gezielt mit Kontext angereichert werden, um Nachrichten zu personalisieren oder bestimmte Schreibstile zu imitieren, wodurch sie noch überzeugender werden. Traditionelle Erkennungsmethoden wie das Erkennen von Rechtschreibfehlern und unkonventioneller Sprache reichen demnach nicht mehr aus. Selbst Personen mit begrenzten oder gar keinen Fremdsprachenkenntnissen können diese effektiv nutzen. LLMs können auch den Erfolg von Phishing-Angriffen steigern, indem sie glaubwürdige Domainnamen und URLs generieren. Die Kombination von LLMs mit anderen KI-Technologien wie z. B. Deepfakes für Bilder und Audio ermöglicht es laut einer aktuellen Veröffentlichung des Bundesamtes für Sicherheit in der Informationstechnik (BSI) böswilligen Akteuren, hochentwickelte Social-Engineering-Angriffe durchzuführen.
Auch Malware kann mit KI generiert werden
Zu Malware gehört schädliche Software wie Ransomware, Würmer und Trojaner, die oft durch die Ausnutzung bestehender Sicherheitslücken oder Social Engineering verbreitet werden. Antivirensoftware wirkt Malware entgegen, indem sie deren Ausführung erkennt und verhindert.
Die künstliche Intelligenz hat gezeigt, dass sie die Erstellung von Malware für Personen mit minimalen technischen Kenntnissen vereinfachen kann. Auch warnt das BSI davor, dass KI in der Lage ist, autonom einfache Malware zu erzeugen oder ihr Vorhandensein zu verschleiern. Dies beschleunigt sich insbesondere dadurch, dass spezifische Systeme für die Softwareentwicklung trainiert und ausgelegt werden. Diese Malware zu benutzen, ist für Angreifer nur ein logischer nächster Schritt.
Obwohl große Sprachmodelle (LLMs) einfache Schadsoftware schreiben können, wurde aber laut BSI bisher noch keine KI gefunden, die in der Lage ist, fortgeschrittene, ausgeklügelte Malware unabhängig zu erstellen, da die erforderlichen Trainingsdaten noch zu komplex und zu teuer sind.
Seite 1 Welche Herausforderungen schafft KI für die Risikobewertung?
Seite 2 Verbesserte Prävention und Reaktion auf Cyberangriffe durch KI-Anwendungen
Michael Horchler 
- Anmelden, um Kommentare verfassen zu können
