Zu Haftungsrisiken für Firmen beim Einsatz von KI

Interview mit Florian Kowarz, Lead Underwriter Financial Lines bei Markel Insurance SE

Herr Kowarz, künstliche Intelligenz (KI) fordert auch die Versicherungsbranche heraus, ihre Strategien zu überdenken. Welche Rolle spielt KI aktuell bei Markel?

KI entfaltet ihr volles Potenzial überall dort, wo große Datenmengen erfasst und analysiert werden müssen. Daher setzen wir uns bei Markel als stark datengetriebenes Unternehmen intensiv mit KI auseinander, um unsere Prozesse, von der Risikoanalyse und -bewertung über die Vertragsabwicklung bis hin zum Schadenmanagement, kontinuierlich zu optimieren und effizienter zu gestalten.

In welchen Bereichen können Unternehmen denn besonders durch den Einsatz von KI profitieren?

KI verbessert die Effizienz in der Verarbeitung großer Datenmengen durch Echtzeitanalysen und hohe Skalierbarkeit. Sie reduziert menschliche Fehler, ermöglicht präzisere Prognosen und sorgt für konsistente Qualitätskontrollen. Dies führt zu einer deutlichen Effizienzsteigerung und der Automatisierung komplexer Prozesse, was wiederum die Betriebskosten senkt. Zudem sind KI-gestützte Systeme rund um die Uhr verfügbar.

Gilt dies auch für das Management und die Entscheidungsfindung auf Führungsebene?

Absolut, KI unterstützt Führungskräfte dabei, fundierte Unternehmensstrategien zu entwickeln, Risiken zu managen und datengestützte Entscheidungen zu treffen. Durch den gezielten Einsatz von KI können Unternehmen klare Wettbewerbsvorteile erzielen. Umgekehrt kann die fehlende oder unzureichende Nutzung von KI zu erheblichen Wettbewerbsnachteilen führen, die sogar Haftungsrisiken für das Management mit sich bringen können. Daher ist es entscheidend, dass das Management KI-Technologien angemessen einsetzt, um Fehlentscheidungen und potenzielle Haftungsrisiken zu vermeiden.

Kann eine D&O-Versicherung solche Haftungsrisiken abdecken?

Ja, eine D&O-Versicherung kann Risiken abdecken, die aus der Nichteinführung oder fehlerhaften Nutzung von KI resultieren, insbesondere wenn diese als Verletzung der Sorgfaltspflicht im Sinne der einschlägigen Haftungsnormen, die in einer Vielzahl von Gesetzen verankert sind (z. B. § 43 GmbHG, § 93 AktG, § 347 HGB, § 280 BGB, § 34 und § 41 GenG), ausgelegt wird. Die Versicherung deckt mögliche Schäden ab, die durch Fehlentscheidungen des Managements entstehen können, wie etwa entgangene Gewinne. Um Ansprüche erfolgreich geltend zu machen, müssen die Haftungsgrundlagen präzise definiert und dokumentiert werden, da die D&O-Versicherung nur dann greift, wenn ein klarer Zusammenhang zwischen der Haftpflichtverletzung und dem entstandenen Schaden besteht.

Welche spezifischen Haftungsrisiken sind mit dem Einsatz von KI verbunden?

Zunächst einmal sind KI-Modelle, insbesondere solche, die auf maschinellem Lernen basieren, oft als „Black Boxes“ konzipiert, deren Entscheidungsprozesse schwer nachzuvollziehen sind. Dies kann zu Haftungsproblemen führen, wenn die KI fehlerhafte oder unerwartete Entscheidungen trifft und die Gründe dafür nicht transparent sind.

Zudem stellen Bias und Diskriminierung ein Risiko dar: KI-Systeme können Verzerrungen aus den Trainingsdaten übernehmen, was zu diskriminierenden Entscheidungen führen kann. Wenn ein KI-Modell auf fehlerhaften oder voreingenommenen Daten trainiert wird, kann es unbewusst Entscheidungen treffen, die rechtliche und ethische Probleme aufwerfen und zu Haftungsansprüchen führen können.

Dann sind noch die Cybersecurity-Risiken zu nennen. KI-Systeme sind anfällig für Cyberangriffe, bei denen Hacker versuchen, Systeme zu manipulieren oder Daten zu stehlen. Ein erfolgreicher Angriff kann besonders gravierende Schäden verursachen, wenn die KI in sensiblen Bereichen wie Finanzmanagement oder Personalwesen eingesetzt wird. Daher ist es entscheidend, die Cybersicherheit von KI-Systemen sicherzustellen.

Des Weiteren ist der rechtliche Rahmen für KI-Anwendungen noch im Aufbau, was zu Unsicherheiten hinsichtlich der Compliance führen kann. Unternehmen müssen sich kontinuierlich über die sich entwickelnden Gesetze und Vorschriften informieren und ihre KI-Systeme entsprechend anpassen, um rechtliche Risiken zu minimieren.

Schließlich können unzureichende Schulungen und Sicherheitsprotokolle zu Datenschutzverletzungen führen. Firmen müssen sicherstellen, dass ihre KI-Systeme die geltenden Datenschutzbestimmungen einhalten, um Risiken wie Datenlecks oder Compliance-Verstöße zu vermeiden.

Artikel auf einer Seite

1 / 2