Klare Grenzen
Die Rechtsordnung sieht zudem zahlreiche Schranken vor, die den möglichen Einsatz von KI begrenzen. Etwa darf der Algorithmus nicht in einer nach dem Allgemeinen Gleichbehandlungsgesetz untersagten Weise diskriminieren. Ebenso setzt das Datenschutzrecht der Möglichkeit von Entscheidungen einer KI, die unmittelbare Rechtswirkung zulasten eines Versicherten entfalten, enge Grenzen. So gestattet Art. 22 der Datenschutz-Grundverordnung (DSGVO) automatisierte Entscheidungen ohne eine explizite freiwillige Einwilligung des Betroffenen nur, sofern sie für diesen nicht nachteilig sind, also beispielsweise wenn dem Begehren vollumfänglich stattgegeben wird. Die einzige Ausnahme bildet § 37 des Bundesdatenschutzgesetzes (BDSG), der Entscheidungen zuungunsten der Versicherten ausschließlich in der Leistungsprüfung und dies auch nur für die Krankenversicherung zulässt. Insoweit wird zu Recht – aber bisher ohne Erfolg – von der Branche gefordert, die Befugnis auf weitere Sparten zu erweitern, damit auch in diesen die Schadenabwicklung beschleunigt werden kann.
Ausblick
Weitreichende Änderungen stehen jedoch bevor. In naher Zukunft wird das EU-Gesetz über künstliche Intelligenz (AI Act) – das weltweit erste seiner Art – in Kraft treten. Das Gesetz, durch das ein sicherer, vertrauenswürdiger und ethischer Einsatz von KI gewährleistet werden soll, ist ein wichtiger Schritt vorwärts. Der neue Rechtsrahmen macht unter anderem Vorgaben zur Klassifizierung von und den Anforderungen an KI-Systeme und wird der Versicherungswirtschaft zusätzliche Pflichten auferlegen. Gleichwohl ist er insgesamt zu begrüßen. Der AI Act ist jedoch nur ein erster Schritt – weitere Gesetze werden folgen, etwa die KI-Haftungsrichtlinie, sodass die sich wandelnden rechtlichen Rahmenbedingungen Rechtswissenschaft und Praxis noch lange vor immer neue Herausforderungen stellen werden.
Diesen Beitrag finden Sie auch in AssCompact 03/2024 und in unserem ePaper.
Lesen Sie außerdem:
KI-Gesetz: Versicherer kritisieren Hochrisikoeinstufung
Bild: © Sikov – stock.adobe.com
- Anmelden, um Kommentare verfassen zu können
