KI-Marktüberwachung: BaFin beaufsichtigt künftig KI-Systeme im Finanzsektor

Symbolbild: Drone symbolisiert die KI-Marktüberwachung durch die BaFin

Die Bundesanstalt für Finanzdienstleistungsaufsicht BaFin ist neu für die KI-Marktüberwachung im Finanzsektor zuständig. Sie prüft damit, ob Banken, Versicherer und andere beaufsichtigte Unternehmen die Vorgaben der europäischen KI-Verordnung einhalten. Die Anforderungen an Hochrisiko-Systeme wie das Kreditscoring greifen ab Dezember 2027.

Neues Mandat seit dem 29. Juli 2026

Grundlage ist das deutsche Durchführungsgesetz zur europäischen KI-Verordnung, das KI-Marktüberwachungs- und Innovationsförderungsgesetz KI-MIG, das am 29. Juli 2026 in Kraft getreten ist (wir berichteten). Die BaFin übernimmt danach die Marktüberwachung für KI-Systeme, die unmittelbar mit einer regulierten Finanztätigkeit zusammenhängen.

Die Zuständigkeit umfasst Kreditinstitute, Versicherungsunternehmen und weitere Finanzunternehmen unter Aufsicht der BaFin. Bei Verstößen gegen die KI-Verordnung kann die Behörde Bußgelder verhängen.

Chatbots, Kreditscoring und verbotene Praktiken im Blick

Nach Angaben der BaFin erstreckt sich die Überwachung auf drei Bereiche. Der erste betrifft Transparenzpflichten für KI-Systeme, die direkt mit Menschen kommunizieren, beispielsweise Chatbots im Kundenkontakt.

Der zweite Bereich umfasst die Verbote bestimmter KI-Praktiken. Dazu zählen laut BaFin Systeme, die besonders schützenswerte Informationen über Menschen sammeln und auswerten und so zu ungerechtfertigter Benachteiligung führen können.

Drittens überwacht die BaFin Hochrisiko-KI-Systeme. Als Beispiele nennt die Behörde Systeme zur Kreditwürdigkeitsprüfung bei Banken sowie Anwendungen, mit denen Versicherer Risiken in der Lebens- und Krankenversicherung bewerten.

Klare Abgrenzung zur Bundesnetzagentur

Die Zuständigkeit der BaFin beschränkt sich auf KI-Systeme mit direktem Bezug zur regulierten Finanztätigkeit. Andere Anwendungen in Finanzunternehmen, beispielsweise im Personalmanagement, fallen in den Bereich der Bundesnetzagentur.

Verantwortung liegt bei der Geschäftsleitung

Die BaFin will die Marktüberwachung eng mit ihrer laufenden Unternehmensaufsicht verzahnen. BaFin-Präsident Mark Branson hebt Transparenz, Diskriminierungsfreiheit und ein wirksames Risikomanagement als Maßstäbe für den KI-Einsatz hervor.

Entscheidungen müssen nach seinen Worten weiterhin von Menschen korrigiert und rückgängig gemacht werden können. Die Verantwortung für den Einsatz von KI tragen die beaufsichtigten Unternehmen und ihre Geschäftsleitungen. Branson erwartet, dass sich die Institute eingehend mit der KI-Verordnung befassen.

Pflichten greifen schrittweise

Die Vorgaben der KI-Verordnung gelten gestaffelt. Bestimmte KI-Praktiken sind bereits seit dem 2. Februar 2025 untersagt. Erste Transparenzpflichten gelten seit dem 2. August 2026.

Die Anforderungen an Hochrisiko-KI-Systeme, zu denen das Kreditscoring zählt, sind laut BaFin ab dem 2. Dezember 2027 einzuhalten. Ursprünglich war dafür der 2. August 2026 vorgesehen; der sogenannte Digital Omnibus hat den Termin verschoben.

Veröffentlicht in Allgemein, Rechtsberatung, WirtschaftsprüfungVerschlagwortet mit , ,