Die Notwendigkeit der Regulierung: Ein kritischer Blick auf Chancen und Risiken der KI, von Dr. Thomas Schulte, Rechtsanwalt
Die Finanzbranche erlebt mit der Einführung von Künstlicher Intelligenz (KI) eine Revolution, die weit über das hinausgeht, was viele sich noch vor wenigen Jahren hätten vorstellen können. Während die Technologie Effizienz und Kostensenkungen verspricht, wirft sie auch Fragen auf – vor allem, wenn es um den Schutz von Verbrauchern geht. Wie schützt sich der einzelne Anleger vor den potenziellen Gefahren dieser künstlichen Intelligenz, die immer häufiger hinter den Kulissen von Finanzdienstleistungen agiert? Was passiert, wenn Maschinen über Finanzentscheidungen bestimmen oder gar das Risiko von Fehlinvestitionen und Betrug erhöhen?
Als Rechtsanwalt mit jahrelanger Erfahrung im Bereich Finanzrecht ist bekannt, dass die BaFin bereits intensiv daran arbeitet, den Umgang mit KI in der Finanzbranche zu regulieren. Doch während auf der einen Seite von Effizienzsteigerungen und neuen Möglichkeiten die Rede ist, stellt sich für den Verbraucher die Frage: Wie werden ihre Interessen in diesem neuen digitalen Umfeld geschützt? Die Geschwindigkeit der Entwicklung und die Komplexität der Technologien erfordern eine regelmäßige Anpassung und präzise Regulierung. Es bleibt eine Herausforderung, den richtigen Rahmen zu finden, der einerseits Innovation fördert und andererseits den nötigen Verbraucherschutz gewährleistet.
Die Definition von Künstlicher Intelligenz und ihre Herausforderungen
Künstliche Intelligenz ist ein weit gefasster Begriff, der sich nicht leicht definieren lässt. Die europäische KI-Verordnung beschreibt sie als maschinengestütztes System, das in unterschiedlichem Maße autonom operieren kann. Dies zeigt bereits die Vielschichtigkeit und Komplexität des Themas. Besonders wichtig ist hierbei die Anpassungsfähigkeit der Systeme, was Regulierungsbehörden vor besonderen Herausforderungen stellt.
KI kann strukturierte und unstrukturierte Daten nutzen und in großen Mengen verarbeiten. Dies eröffnet neue Möglichkeiten, beispielsweise bei der Betrugserkennung oder der automatisierten Bearbeitung von Versicherungsfällen. Gleichzeitig stellt sich die Frage der Erklärbarkeit von KI-Ergebnissen – ein zentrales Thema, gerade bei selbstlernenden Systemen. Wenn KI-Modelle Entscheidungen treffen, müssen diese nachvollziehbar bleiben.
Künstliche Intelligenz in der Praxis der Versicherer
Versicherer setzen KI bereits in vielen Bereichen ein. Insbesondere in der automatisierten Bearbeitung von Anträgen und der Erkennung von Mustern in Schadensfällen zeigt sich der Mehrwert der Technologie. Beispielsweise können Arztrechnungen und andere Dokumente mithilfe von KI effizienter klassifiziert und verarbeitet werden.
Auch bei der Dunkelverarbeitung von Leistungsanträgen – also der automatisierten Abwicklung ohne menschliche Prüfung – hat KI die Abläufe deutlich verbessert. Wo früher eine strikte, regelbasierte Kontrolle notwendig war, können moderne Selbstlernmechanismen präzise zwischen auffälligen und unauffälligen Fällen unterscheiden.
Ein spannender Anwendungsfall ist zudem der Einsatz generativer KI in der Produktentwicklung. Hier helfen Sprachmodelle wie GPT bei der Gestaltung von Versicherungsangeboten oder der Erstellung individueller Vertragswerke. Dies birgt große Effizienzgewinne, setzt aber auch ein tiefes Verständnis für die Funktionsweise und Grenzen solcher Sprachmodelle voraus.
Risiken und regulatorische Anforderungen für den Einsatz von KI
Neben den vielversprechenden Anwendungen müssen Versicherer und Banken die Risiken im Blick behalten. Gerade automatisierte Entscheidungsprozesse bergen die Gefahr der Diskriminierung. Wenn unter anderem KI-Modelle unzureichend trainiert wurden oder verzerrte Daten nutzen, könnten bestimmte Kundengruppen benachteiligt werden. Dies wäre ein Verstoß gegen das Gebot der Gleichbehandlung und könnte erhebliche aufsichtsrechtliche Konsequenzen nach sich ziehen.
Hinzu kommt die Problematik generativer KI. Diese Sprachmodelle „halluzinieren“ gelegentlich und liefern fehlerhafte oder erfundene Informationen. Ein Versicherer, der sich blind auf eine solche Technologie verlässt, riskiert gravierende Fehlentscheidungen. Dies betrifft besonders die Frage der Haftung: Wer trägt die Verantwortung für eine falsche KI-basierte Entscheidung?
Die europäische KI-Verordnung, die im August 2024 in Kraft getreten ist, setzt strenge Maßstäbe für Hochrisiko-KI-Systeme. Anwendungen, die signifikante Auswirkungen auf Verbraucherrechte haben, unterliegen verschärften Prüfpflichten. Besonders im Versicherungswesen werden Systeme zur Risikobewertung und Preisbildung als Hochrisiko-KI eingestuft. Unternehmen müssen umfangreiche Anforderungen an Transparenz, Datenqualität und menschliche Überwachung erfüllen.
Governance: Die Verantwortung der Versicherer beim Einsatz von KI
Rechtlich betrachtet müssen Unternehmen sicherstellen, dass sie ihre KI-Systeme in eine effektive Governance-Struktur einbetten. Dies umfasst regelmäßige Überprüfungen der Modellentscheidungen, Dokumentationen zum Modellverhalten und Leitlinien zur Entscheidungsüberprüfung durch Menschen.
Laut Art. 22 DSGVO darf eine vollautomatisierte Entscheidung gegenüber einer betroffenen Person nicht ohne menschliches Eingreifen erfolgen, wenn sie rechtliche Auswirkungen hat. Damit ist klar, dass Versicherer KI nicht isoliert einsetzen dürfen, sondern stets eine menschliche Kontrollinstanz gewährleisten müssen. Das haben europäische Gerichte bereits so bestätigt.
Weiterhin regelt § 25a KWG die Anforderungen an die Institute zur Risikokontrolle und zum internen Kontrollsystem. KI-Systeme müssen in diese Prozesse integriert werden, damit sie den regulatorischen Standards entsprechen. Dies bedeutet, dass Finanzunternehmen bereits heute ihre IT-Systeme nach Prüfungsmaßstäben der BaFin ausrichten müssen.
Quantencomputing – Die nächste Herausforderung für die Finanzaufsicht
Neben der Künstlichen Intelligenz zeichnet sich eine weitere technologische Revolution ab: das Quantencomputing. Diese extrem leistungsfähigen Rechner könnten die Verarbeitungskapazitäten von KI-Systemen auf nie dagewesene Höhen treiben. Dies birgt enorme Chancen, aber auch Risiken – insbesondere für die IT-Sicherheit.
Ein bedeutendes Risiko liegt in der Überwindung bisheriger Verschlüsselungsmethoden. Laut dem Bundesamt für Sicherheit in der Informationstechnik (BSI) sind moderne kryptografische Verfahren potenziell angreifbar durch leistungsfähige Quantencomputer. In der Finanzbranche, wo Sicherheit eine zentrale Rolle spielt, müssen Unternehmen schon heute Strategien entwickeln, um sich darauf vorzubereiten.
Bereits jetzt gibt es erste Post-Quanten-Kryptographie-Standards, die für Banken und Versicherer relevant sind. Wer heute in diesem Bereich untätig bleibt, riskiert in wenigen Jahren große Sicherheitslücken.
Fazit: Ein Balanceakt zwischen Innovation und Sicherheit
Künstliche Intelligenz hat die Versicherungsbranche bereits stark verändert und wird dies auch weiterhin tun. Der Mehrwert dieser Technologie ist offensichtlich – von effizienteren Prozessen über präzisere Risikobewertungen bis hin zu verbesserten Kundenservices. Gleichzeitig darf man die Risiken nicht unterschätzen.
Die europäische KI-Verordnung gibt hier den regulatorischen Rahmen vor. Sie fordert von Versicherern eine transparente, nachvollziehbare und diskriminierungsfreie Nutzung von KI. Insbesondere Hochrisiko-KI-Anwendungen unterliegen einer strengen Aufsicht durch BaFin und EIOPA.
Unternehmen müssen sich zudem frühzeitig mit dem Quantencomputing auseinandersetzen. Die Bedrohung verschlüsselter Daten wird in den kommenden Jahren weiter steigen, sodass Schutzmaßnahmen bereits heute implementiert werden müssen.
Es zeigt sich also ein Spannungsfeld zwischen technologischer Innovation und regulatorischer Kontrolle. Die Herausforderung für Versicherungen und Banken wird es sein, diese beiden Aspekte in Einklang zu bringen.
Rechtsanwaltskanzlei Dr. Thomas Schulte
Malteserstrasse 170
12277 Berlin
Telefon: +49 30 221922020
E-Mail: law@meet-an-expert.com
Dr. Thomas Schulte, ein Rechtsanwalt in Berlin und führender Vertrauensanwalt des ABOWI Law Netzwerks, unterstützt Sie bei rechtlichen Fragen im Bereich digitale Kommunikation.
