Von Chatbots bis Kreditscoring: So kontrolliert die BaFin künftig KI-Systeme

Neue Aufsichtsbefugnisse für die BaFin

Die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) erweitert ihr regulatorisches Spektrum. Künftig fungiert die Behörde als zentrale Instanz für die Überwachung von KI-Anwendungen innerhalb der Finanzbranche. Betroffen sind nicht nur klassische Kreditinstitute und Versicherungsunternehmen, sondern sämtliche Finanzdienstleister, die auf automatisierte Systeme setzen. Grundlage für diese neuen Kompetenzen ist das Gesetz zur Durchführung der EU-KI-Verordnung.

Die Aufsicht konzentriert sich dabei auf verschiedene Schwerpunkte: Neben der Prüfung von KI-Tools, die in der direkten Kundeninteraktion stehen, überwacht die BaFin die Einhaltung der Vorgaben für Hochrisiko-KI-Systeme sowie das Verbot unzulässiger KI-Praktiken.

Transparenzgebot bei Kundenkontakten

Seit dem 2. August 2026 gelten verschärfte Transparenzpflichten. Das primäre Ziel der EU-Regulierung ist es, sicherzustellen, dass Nutzer jederzeit erkennen können, ob sie mit einem Menschen oder einer Maschine interagieren. Für die Praxis bedeutet das:

* **Chatbots:** Diese müssen sich in der Kundenkommunikation explizit als KI-Systeme zu erkennen geben.

* **Marketing:** KI-generierte Inhalte, wie etwa Texte oder Bildmaterial, unterliegen einer Kennzeichnungspflicht.

Diese Maßnahmen sollen das Vertrauen in digitale Finanzdienstleistungen stärken und verhindern, dass Kunden über die Art der Interaktion getäuscht werden.

Verbotene Praktiken: Das Ende des Social Scorings

Bereits seit dem 2. Februar 2025 sind bestimmte KI-Anwendungen innerhalb der Europäischen Union untersagt. Dazu zählt insbesondere das sogenannte Social Scoring. Finanzinstitute dürfen keine Systeme mehr einsetzen, die Personen aufgrund ihres Sozialverhaltens oder persönlicher Eigenschaften bewerten. Ein Beispiel hierfür wäre die Ablehnung eines Kredits, die ausschließlich auf der Auswertung von Wohngegend, Zahlungsverhalten, Social-Media-Aktivitäten oder spezifischen Einkaufsgewohnheiten basiert. Derartige Praktiken gelten als diskriminierend und sind durch die neuen EU-Spielregeln explizit verboten.

Anforderungen an Hochrisiko-KI-Systeme

Ein entscheidender Meilenstein steht für den 2. Dezember 2027 an: Ab diesem Zeitpunkt greifen umfassende Anforderungen für sogenannte Hochrisiko-KI-Systeme. Dies betrifft insbesondere Werkzeuge, die bei der Kreditvergabe oder bei der Risikobewertung in der Lebens- und Krankenversicherung zum Einsatz kommen.

Um die regulatorischen Hürden zu nehmen, müssen Finanzinstitute künftig folgende Kriterien erfüllen:

* **Erklärbarkeit:** Die Entscheidungswege der KI müssen nachvollziehbar und transparent gestaltet sein.

* **Menschliche Aufsicht:** Jede automatisierte Entscheidung muss durch einen Menschen überprüfbar und bei Bedarf korrigierbar sein.

* **Qualitätsmanagement:** Es gelten strenge Anforderungen an die Datenqualität sowie an die Protokollierung der Entscheidungsprozesse.

* **Risikomanagement:** Die Systeme müssen in die bestehenden Risikomanagement-Strukturen der Unternehmen integriert werden.

Zusätzlich fordert die BaFin, dass das Personal gezielt im Umgang mit diesen KI-Systemen geschult wird, um eine kompetente Anwendung sicherzustellen.

Sanktionen und Innovationsförderung

Die neuen Regeln sind mit empfindlichen Konsequenzen verbunden. Bei Verstößen gegen die KI-Verordnung können Bußgelder von bis zu 35 Millionen Euro oder alternativ bis zu sieben Prozent des weltweiten Jahresumsatzes verhängt werden.

Trotz der strengen Vorgaben signalisiert die BaFin, dass der Innovationsgeist in der Branche nicht unterdrückt werden soll. Banken und Fintechs erhalten weiterhin die Möglichkeit, neue Anwendungen in sogenannten Reallaboren unter kontrollierten Bedingungen zu testen. Damit soll ein Gleichgewicht zwischen notwendiger Regulierung zum Schutz der Verbraucher und der Förderung technologischer Fortschritte im Finanzsektor gewahrt bleiben.