Welche Herausforderungen schafft KI für die Risikobewertung?

Ein Artikel von Michael Horchler, Chief Security Officer bei Perseus Technologies GmbH

In der heutigen digitalisierten Welt sind Unternehmen zunehmend auf IT-Sicherheit angewiesen, um ihre Daten und Systeme vor immer ausgefeilteren Cyberangriffen zu schützen. Parallel dazu wächst die Rolle der Cyberversicherung als Schutz gegen finanzielle Verluste und betriebliche Unterbrechungen als Folge von Cyberangriffen. Eine Technologie, die in diesem Bereich immer mehr an Bedeutung gewinnt, ist die künstliche Intelligenz (KI). Die Integration von KI in die Cyberversicherungsbranche eröffnet sowohl Versicherern als auch Versicherungsnehmern eine Vielzahl von Möglichkeiten und Herausforderungen. KI-basierte Cyberangriffe können die Bedrohungslandschaft verschärfen – allerdings auch präventive Bemühungen und Reaktionen sowie die Bewertung von IT-Sicherheitsrisiken optimieren.

KI-basierte Phishing- und Social-Engineering-Angriffe

Phishing und Social Engineering sind bewährte Techniken, die Cyberkriminelle nutzen, um sensible Informationen von ihren Zielpersonen zu erlangen. Mit der fortschreitenden Entwicklung der KI haben diese Angriffe jedoch eine neue Dimension erreicht. KI ermöglicht es Angreifern, hochgradig personalisierte und überzeugende Phishing-E-Mails zu versenden, die das Erkennen der Nachrichten als Betrugsversuch stark erschweren.

Der immer weiter verbreitete Einsatz großer Sprachmodelle (LLM) ermöglicht die Erstellung äußerst raffinierter Phishing-Nachrichten. Diese Modelle verarbeiten und analysieren große Mengen an Daten und können gezielt mit Kontext angereichert werden, um Nachrichten zu personalisieren oder bestimmte Schreibstile zu imitieren, wodurch sie noch überzeugender werden. Traditionelle Erkennungsmethoden wie das Erkennen von Rechtschreibfehlern und unkonventioneller Sprache reichen demnach nicht mehr aus. Selbst Personen mit begrenzten oder gar keinen Fremdsprachenkenntnissen können diese effektiv nutzen. LLMs können auch den Erfolg von Phishing-Angriffen steigern, indem sie glaubwürdige Domainnamen und URLs generieren. Die Kombination von LLMs mit anderen KI-Technologien wie z. B. Deepfakes für Bilder und Audio ermöglicht es laut einer aktuellen Veröffentlichung des Bundesamtes für Sicherheit in der Informationstechnik (BSI) böswilligen Akteuren, hochentwickelte Social-Engineering-Angriffe durchzuführen.

Auch Malware kann mit KI generiert werden

Zu Malware gehört schädliche Software wie Ransomware, Würmer und Trojaner, die oft durch die Ausnutzung bestehender Sicherheitslücken oder Social Engineering verbreitet werden. Antivirensoftware wirkt Malware entgegen, indem sie deren Ausführung erkennt und verhindert.

Die künstliche Intelligenz hat gezeigt, dass sie die Erstellung von Malware für Personen mit minimalen technischen Kenntnissen vereinfachen kann. Auch warnt das BSI davor, dass KI in der Lage ist, autonom einfache Malware zu erzeugen oder ihr Vorhandensein zu verschleiern. Dies beschleunigt sich insbesondere dadurch, dass spezifische Systeme für die Softwareentwicklung trainiert und ausgelegt werden. Diese Malware zu benutzen, ist für Angreifer nur ein logischer nächster Schritt.

Obwohl große Sprachmodelle (LLMs) einfache Schadsoftware schreiben können, wurde aber laut BSI bisher noch keine KI gefunden, die in der Lage ist, fortgeschrittene, ausgeklügelte Malware unabhängig zu erstellen, da die erforderlichen Trainingsdaten noch zu komplex und zu teuer sind.

Verbesserte Prävention und Reaktion auf Cyberangriffe durch KI-Anwendungen

Während KI von Angreifern genutzt wird, bietet sie auch Werkzeuge zur Verteidigung gegen Cyberangriffe. KI-Anwendungen haben das Potenzial, die Prävention und Reaktion auf Cyberangriffe von Unternehmen signifikant zu verbessern.

Die zunehmende Bedrohung durch KI-basierte Phishing- und Social-Engineering-Angriffe erfordert neue Schutzmaßnahmen. Unternehmen müssen ihre Mitarbeitenden regelmäßig schulen, um sie für die Erkennung dieser Angriffe zu sensibilisieren. Trainings müssen über das herkömmliche Maß hinaus stattfinden. Zusätzlich können fortschrittliche Sicherheitslösungen, die auf KI und maschinellem Lernen basieren, verdächtige Aktivitäten und Phishing-Versuche in Echtzeit erkennen und abwehren.

Angesichts der sich wandelnden Bedrohungslandschaft ist es unerlässlich, der Cybersicherheit höchste Priorität einzuräumen. Es ist entscheidend, die Reaktionsgeschwindigkeit und den Umfang der Abwehrmaßnahmen zu erhöhen. Dies umfasst insbesondere die Verbesserung des Patch-Managements, den Aufbau einer resilienten IT-Infrastruktur durch Investition in robuste IT-Sicherheitsmaßnahmen und die Optimierung der Angriffserkennung.

Herausforderungen bei der Bewertung von KI-gesteuerten Risiken und Schäden

Auch eine Cyberversicherung ist Teil einer effektiven IT-Sicherheitsstrategie von Unternehmen. Nicht zuletzt durch das Aufkommen von KI in der Bedrohungslandschaft werden sowohl Versicherer als auch Versicherungsnehmer vor erhebliche Herausforderungen bei der Bewertung und dem Management von KI-gesteuerten Risiken und Schäden gestellt.

Die Bewertung von Risiken, die durch KI-Systeme verursacht werden, ist äußerst komplex. KI-basierte Angriffe sind oft raffinierter und dynamischer als herkömmliche Cyberangriffe. Dies erschwert die ohnehin schon komplexe Identifikation und Quantifizierung von Risiken. Eine weitere Herausforderung ist der Mangel an historischen Daten zu KI-gesteuerten Angriffen. Da diese Technologien vergleichsweise neu sind, gibt es nur begrenzte Informationen über ihre langfristigen Auswirkungen und die Häufigkeit von Vorfällen. Dieser Mangel an Daten erschwert es den Versicherern, präzise Risikomodelle zu erstellen und angemessene Versicherungspolicen anzubieten. Versicherer sind auf die Zusammenarbeit mit IT-Sicherheitsexperten angewiesen, die spezielle Modelle entwickeln, um die potenziellen Auswirkungen von KI-Angriffen genauer bewerten zu können.

Bewältigung der Herausforderung durch präzisere Risikobewertungen

In dem Maße, in dem KI die Bedrohungen verschärft, kann sie jedoch auch zum Management der Risiken eingesetzt werden. KI-gestützte Analysetools ermöglichen es Versicherungsunternehmen, große Datenmengen zu analysieren und dadurch präzisere Risikobewertungen durchzuführen. Diese Tools können Muster und Trends erkennen und bieten so eine Basis für eine genauere Einschätzung der Risiken. Dies kann dabei helfen, maßgeschneiderte Versicherungspolicen zu erstellen, die besser auf die spezifischen Bedürfnisse der Kunden abgestimmt sind.

Um das volle Potenzial von KI in der Cyberversicherung auszuschöpfen, müssen Versicherer und Unternehmen kontinuierlich mit Experten zusammenarbeiten, um ihre Sicherheitsstrategien zu verbessern und sich an die sich schnell verändernde Bedrohungslandschaft anzupassen. Durch die Zusammenarbeit und den Austausch von Wissen können sie gemeinsam eine robustere und sicherere digitale Zukunft gestalten.