Gibt es konkrete Beispiele für Schäden, die durch KI verursacht wurden?
Ein prominenter Fall betrifft einen weltweit tätigen Elektronikkonzern, dessen Mitarbeiter aufgrund unzureichender Schulungen sensible Unternehmensdaten in ein unsicheres KI-Tool einspeisten, was zu einem erheblichen Datenleck führte. Ein weiteres Beispiel sind KI-gestützte Rekrutierungstools, die bei der Bewertung von Lebensläufen unbewusste Vorurteile reproduzierten, was zu Diskriminierung führt. Diese Vorfälle verdeutlichen die Notwendigkeit einer sorgfältigen Implementierung und kontinuierlichen Überwachung von KI-Systemen.
Wie wird die Haftung für Schäden geregelt, die durch KI verursacht werden?
Der EU AI-Act enthält zwar strenge Regeln für den Einsatz von KI, stellt jedoch keine spezifischen Versicherungsregelungen für KI-Schäden auf. Die Haftung für Schäden, die durch KI verursacht werden, liegt weitgehend in den Händen der nationalen Gesetzgeber und des Versicherungssektors. Unternehmen sollten daher vertragliche Haftungsklauseln (§ 276 Abs. 3 BGB, § 309 Nr. 7 BGB) und Garantiehaftungen (§ 443 BGB) in ihre Verträge mit KI-Anbietern aufnehmen. Auch § 823 BGB (Schadenersatzpflicht) kann relevant sein, wenn ein KI-System Fehler verursacht, die Dritte schädigen. Darüber hinaus haftet das Management gemäß § 93 AktG und § 43 GmbHG für fahrlässige Entscheidungen hinsichtlich der Nutzung oder Nichteinführung von KI.
Wie geht Markel mit den Herausforderungen bei KI-Schäden um?
Bislang hat Markel keine spezifischen Schäden im Zusammenhang mit KI verzeichnet. Die rechtlichen Rahmenbedingungen sind weiterhin unklar und der AI-Act stellt lediglich einen ersten Schritt dar. Es bedarf noch einer Klärung der Verantwortlichkeiten bei KI-Schäden, insbesondere in Bezug auf die Haftung von Entwicklern, Unternehmen und Nutzern.
Welche Empfehlungen würden Sie Unternehmen im Hinblick auf den Einsatz von KI und den Versicherungsschutz geben?
Unternehmen sollten interne Richtlinien für die Überwachung und Kontrolle von KI-Systemen entwickeln, regelmäßige Audits durchführen und spezialisierte Schulungen für das Management sowie die gesamte Belegschaft anbieten. Es ist ratsam, sich an dem AI-Act und den Leitlinien von Fachverbänden zu orientieren, um Risiken zu minimieren und den Versicherungsschutz zu optimieren. Eine umfassende Compliance-Management-Struktur und regelmäßige rechtliche Überprüfungen durch externe Berater sind ebenfalls empfehlenswert, um Haftungsrisiken durch den Einsatz von KI zu minimieren.
Unternehmen sollten sicherstellen, dass ihre Versicherungsverträge spezifische Klauseln enthalten, die mögliche Risiken im Zusammenhang mit KI abdecken, und regelmäßig überprüfen, ob der Versicherungsschutz den aktuellen rechtlichen und technologischen Entwicklungen entspricht.
Diesen Beitrag lesen Sie auch in AssCompact 10/2024 und in unserem ePaper.
Bild: © Florian Kowarz, Markel
Seite 1 Zu Haftungsrisiken für Firmen beim Einsatz von KI
Seite 2 Gibt es konkrete Beispiele für Schäden, die durch KI verursacht wurden?
Florian Kowarz 
- Anmelden, um Kommentare verfassen zu können
