Mit dem Gesetz zur Umsetzung der europäischen KI-Verordnung erhält die BaFin eine neue Marktüberwachungsfunktion für KI-Systeme, die unmittelbar mit einer beaufsichtigten Finanztätigkeit zusammenhängen. Das betrifft laut der offiziellen BaFin-Pressemitteilung Kreditinstitute, Versicherer und weitere von der BaFin beaufsichtigte Finanzunternehmen. KI-Anwendungen ohne direkten Bezug zur Finanztätigkeit – etwa im Personalwesen der Unternehmen selbst – fallen dagegen unter die Zuständigkeit der Bundesnetzagentur.
Verstößt ein beaufsichtigtes Unternehmen gegen die EU-KI-Verordnung, kann die BaFin im Extremfall Bußgelder bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes verhängen. Ab dem 2. Dezember 2027 überwacht die Behörde zusätzlich, ob Unternehmen die Anforderungen an Hochrisiko-KI-Systeme einhalten.
Für Versicherer besonders relevant: Die Marktüberwachung der BaFin umfasst ausdrücklich auch Transparenzpflichten für KI-Systeme mit direktem Nutzerkontakt – etwa Chatbots in der Kundenkommunikation – sowie die Einhaltung der Verbotsregeln der KI-Verordnung, einschließlich Systemen zur Risikoprüfung in der Lebens- und Krankenversicherung. Genau diese Art von Bewertungs- und Scoring-Systemen steht damit erstmals unter der konkreten Aufsicht einer Behörde mit eigener Bußgeldkompetenz.
Für Versicherer bedeutet das: Eine KI, die Risiken bewertet oder über Schadensfälle mitentscheidet, ist jetzt Gegenstand einer echten aufsichtsrechtlichen Prüfung, nicht mehr nur einer internen Compliance-Frage. Wer nachvollziehen kann, welche Daten in eine Entscheidung eingeflossen sind und wer sie am Ende freigegeben hat, ist gegenüber der BaFin in einer deutlich besseren Position als jemand, der auf ein Black-Box-Modell verweisen muss. Genau darauf ist DEPLAW ausgelegt: nachvollziehbare Workflows statt undurchsichtiger Automatisierung.
Tim Platner, Gründer und Geschäftsführer, Legal Data Technology GmbH
Versicherer sollten jetzt prüfen, welche ihrer KI-gestützten Prozesse – von der Risikoprüfung bis zur automatisierten Kundenkommunikation – künftig unter die BaFin-Marktüberwachung fallen, und ob sich die zugrunde liegenden Entscheidungen im Zweifel nachvollziehbar dokumentieren lassen. Wer diese Frage erst beantwortet, wenn die BaFin sie stellt, hat strukturell das schlechtere Ausgangsargument.