Ein Artikel von Paulina Pieloth, Versicherungsjuristin (LL.M.) im Bundesverband Deutscher Versicherungsmakler e. V. (BDVM)
Der AI Act (auch KI-Verordnung genannt) der EU zielt darauf ab, einen europäisch einheitlichen rechtlichen Rahmen für den sicheren und ethischen Einsatz künstlicher Intelligenz zu schaffen. Vorweg sollte klargestellt werden, wann man überhaupt von KI spricht und wann nicht. Es gibt (leider) keine einheitliche, allgemeingültige Definition von künstlicher Intelligenz. Der AI Act gibt aber an unterschiedlichen Stellen (z. B. im Erwägungsgrund 12 der Verordnung) Auskunft darüber, was ein System können muss, um als KI-System im Sinne der Verordnung angesehen zu werden. Danach spricht man von einem KI-System, wenn es in der Lage ist, aus eingegebenen Daten etwas abzuleiten, also selbstständig zu schlussfolgern, zu modellieren, zu erstellen – und eben nicht nur „Vorprogrammiertes“ wiedergibt.
Man kann sich das am Beispiel moderner PDF-Reader gut vorstellen: Hilft mir die Suchfunktion durch die Eingabe eines bestimmten Wortes lediglich die bestimmte Information schneller zu finden, weil es Buchstaben abgleicht und mir die entsprechende Fundstelle anzeigt (keine KI) oder ist es in der Lage, den Absatz / das Kapitel für mich auch zusammenzufassen und sogar zu prüfen, wie sich diese Informationen auf meinen Fall / meine Vorgabe auswirken? Im letzteren Fall kann das System also ableiten und etwas Neues generieren. Man spricht daher auch oft von „generativer KI“. Ein gutes Beispiel für generative KI ist die Anwendung ChatGPT, die sicher viele schon ausprobiert haben (im privaten oder beruflichen Umfeld).
Sind Makler vom AI Act betroffen?
Das kommt darauf an, ob die Makler KI nutzen oder nicht, also ob sie nach der Verordnung als Betreiber oder Anbieter von KI-Systemen anzusehen sind, Art. 2 Abs. 1 des EU AI Act. Betreiber ist man nach Art. 3 S. 1 Nr. 4 schon dann, wenn man ein KI-System verwendet. Dabei ist es erst einmal ganz gleich, ob KI „nur“ derart zum Einsatz kommt, dass man beispielsweise Anwendungen wie ChatGPT nutzt, um bei Formulierungen zu helfen, Bilder zu generieren oder sich einen schnellen Überblick über ein Thema zu verschaffen. Es kommt auch nicht darauf an, ob die eingesetzte KI direkt mit dem Kunden interagiert, wie es z. B. bei einem Chat-Bot auf der Homepage der Fall wäre, oder ob die KI dem Makler bei der Auswahl geeigneter Produkte bzw. der Beratung behilflich ist (wie man es sich bei intelligenter Vergleichssoftware vorstellen kann). Die Schwelle, KI-Betreiber zu sein, ist also sehr niedrig und mit der Zeit werden sich erfahrungsgemäß mehr und mehr KI-Komponenten im beruflichen Alltag wiederfinden.
Alle KI-Betreiber betrifft seit dem 02.02.2025 die Pflicht, KI-Kompetenz in ihrer Belegschaft herzustellen. Dazu gleich mehr.
Aber ich benutze doch nur „harmlose KI“!
KI wird in unterschiedliche Risiko-Kategorien unterteilt. Die folgenden Klassifizierungen kennt der AI Act:
- Verbotene KI-Systeme nach Art. 5
Dazu gehören z. B. Systeme, die ein Social Scoring ermöglichen, Gesichtserkennungssoftware und Programme, die der Manipulation von Menschen dienen. Leicht nachzuvollziehen, warum diese Systeme verboten sind und daher hier auch nicht näher darauf eingegangen wird.
- Hochrisiko-KI
Bei Hochrisiko-KI nach Art. 6 i. V. m. Anhang I und Anhang III der Verordnung geht es hauptsächlich um KI, die in Verkehrsmitteln, Infrastruktur oder z. B. in Spielzeug Einsatz findet oder dem Profiling dient, aber auch – und das ist für den Versicherungssektor relevant – genutzt wird, um die Risikobewertung und die Preisbildung im Bereich der Lebens- und Krankenversicherung durchzuführen (Art. 6 Abs. 2 i. V. m. Anhang III Ziff. 5 c. Davon sind Makler in aller Regel aber auch nicht betroffen. Anhang III Ziff. 4 a nennt aber einen Bereich, der auf Makler eher zutreffen könnte, nämlich den Einsatz von KI-Systemen im Bewerbungsverfahren (z. B. Sichtung von Bewerbungsunterlagen und Bewertung von Bewerbenden). Auch der Einsatz von KI bei der Beurteilung von Leistungen und Verhalten der Mitarbeitenden nach Ziff. 4 b ist denkbar.
Es gibt aber hier Ausnahmen: KI, die für einen in Anlage III genannten Zweck eingesetzt wird, ist dann nicht als Hochrisiko-KI anzusehen, wenn sie nach Art. 6 Abs. 3 das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst (sondern z. B. nur einen Teilbereich des Verfahrens erfüllt, eine bereits menschlich durchgeführte Tätigkeit verbessert oder nur vorbereitende Aufgaben übernimmt). Die Schwierigkeit liegt hier sicherlich in der Auslegung und Abgrenzung. Man kann aber zusammenfassen, dass, je mehr „menschliche Intelligenz“ bei der Entscheidungsfindung involviert ist, umso eher keine Hochrisiko-KI vorliegt.
Abgrenzungskriterien wären an dieser Stelle jedoch hilfreich! Der Anbieter oder Betreiber hat die Pflicht, diese Bewertung (Nicht-Vorliegen von Hochrisiko-KI) zu dokumentieren und die KI trotzdem zu registrieren, wie es Art. 6 Abs. 4 der KI-Verordnung vorsieht.
- KI mit begrenztem/limitiertem Risiko
Das sind unter anderem KI-Systeme mit allgemeinem Verwendungszweck, die Audio-, Video-, Bild- oder Textinhalte erzeugen können, oder auch Chatbots. Prominentes Beispiel ist ChatGPT. Hier gibt es Transparenzpflichten, wenn Sie als Betreiber mithilfe der KI Deepfakes erstellen (Art. 50 Abs. 4).
- KI mit geringem/minimalem Risiko
Dies sind alle KI-Systeme, die nicht in die anderen drei Kategorien fallen, also mit noch weniger Risiko behaftet sind, z. B. „intelligente“ Spam-Filter. Hier gibt es – außer der Pflicht zur Sicherstellung allgemeiner KI-Kompetenz nach Art. 4 – keine weiteren Plichten zu beachten.
Seite 1 EU AI Act: Worauf Makler jetzt achten sollten
Seite 2 KI-Kompetenz betrifft (fast) alle!
Paulina Pieloth 
- Anmelden, um Kommentare verfassen zu können
