Banken werden ihre komplette Wertschöpfungskette prüfen müssen

Der AI Act der EU hat weitreichende Auswirkungen auf die Governance in der Finanzbranche. Mit dieser Verordnung möchte die Europäische Union den Einsatz von KI regulieren. Das gilt auch für KI in Banken. Für viele jedoch überraschend: Gängige Risikomodelle für die Bewertung von Finanz- oder Versicherungsprodukten stellen nach der KI Definition des EU AI Acts (s.Infobox) KI-Systeme dar, die den Vorgaben der Verordnung unterliegen. KI-Governance im Bankwesen wird in Zukunft anders ausgelegt werden müssen.

KI-Definition nach dem EU AI Act:

"Ein KI-System ist ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und nach seiner Einführung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können."

Der EU AI Act: Herausforderungen für die Finanzbranche

Mit dem EU AI Act, der am 02. August 2024 in Kraft getreten ist, wird erstmals die Entwicklung und Anwendung von KI-Systemen reguliert. Diese Verordnung ist besonders deshalb relevant für Banken und Versicherungen, da sie eine breite Definition von KI anwendet, die viele bestehende Systeme umfasst. Die Folgen dieser Regelungen könnten für viele Finanzinstitute substanziell sein, insbesondere im Hinblick auf Risikomanagement und Compliance.

“Jede Bank in Deutschland betreibt KI im Sinne des EU AI Acts und ist damit direkt von ihm betroffen.”
Jan Eßer, Managing Consultant

EU AI Act Timeline

Übersicht über die wichtigsten Daten in der EU AI Act Timeline.
Übersicht über die wichtigsten Daten in der EU AI Act Timeline.
Übersicht über die wichtigsten Daten in der EU AI Act Timeline.

Zeitrahmen und Umsetzung

Der Zeitrahmen des AI Acts ist eng gesteckt. Dieser umfasst verschiedene Fristen: Banken müssen bis Februar 2025 die Nutzung verbotener KI-Systeme einstellen und Kompetenzen für den Umgang mit KI aufbauen. Weitere Meilensteine sind die Regulierung von General Purpose AI (GPAI) ab August 2025, die Regulierung von Hochrisiko KI-Systemen ab 2026 und die vollständige Geltung aller Verordnungen ab August 2027.

Banken müssen schnell handeln. Doch mit unserem praxiserprobten Ansatz, unserem Vorgehensmodell und den passenden Assets kann die PPI AG helfen, rechtzeitig fertig zu werden.

Seminar: Grundlagen der KI

Der EU AI Act fordert von Unternehmen auch, KI-Kompetenz vorweisen zu können. In unserer Schulung lernen Ihre Mitarbeiter nicht nur, wie KI grundsätzlich funktioniert, sondern ergründet auch gemeinsam mit Ihnen regulatorisch konforme Einsatzmöglichkeiten in realen Problemstellungen. Die Schulung wird auf Ihr Institut und Ihre Wünsche angepasst.

Jetzt anfragen

Risikoeinstufung

Der AI Act der EU kategorisiert KI-Systeme in Risikoklassen: verbotene, hochriskante, geringere Risiken und minimale Risiken. Hochrisiko-KI-Systeme müssen strengen Auflagen genügen, darunter Datensatz-Governance, Transparenzanforderungen, Erklärbarkeit bzw. Nachvollziehbarkeit und menschliche Aufsicht.

Viele Systeme in Banken, wie z.B. für Kreditwürdigkeitsprüfungen, fallen in die Kategorie “Hochrisiko KI”. Banken müssen ihre Systeme gründlich analysieren und entsprechende Anpassungen vornehmen. Neben den Anforderungen an KI-Systeme richten sich auch die Schulungsinhalte und der Schulungsbedarf für Mitarbeitende und Führungskräfte nach den entsprechenden Risikoklassen.

Risikoklassen des EU AI Acts

Die vier Risikoklassen des EU AI Acts und Beispiele für Systeme, die bei Banken im Einsatz oder in der Planung sein könnten.
Die vier Risikoklassen des EU AI Acts und Beispiele für Systeme, die bei Banken im Einsatz oder in der Planung sein könnten.
Die vier Risikoklassen des EU AI Acts und Beispiele für Systeme, die bei Banken im Einsatz oder in der Planung sein könnten.
Dokumentation und Transparenz:

Banken müssen detaillierte Dokumentationen über die Funktionsweise und Datenquellen ihrer KI-Systeme bereitstellen. Dies erfordert eine lückenlose Nachverfolgbarkeit und umfangreiche Audit-Trails.

Erklärbarkeit:

KI-gestützte Entscheidungen, wie Kreditgenehmigungen oder die Erkennung von verdächtigen Transaktionen, müssen für Kunden und Regulatoren verständlich erklärt werden können.

Handlungsempfehlungen

Um den Anforderungen des AI Acts gerecht zu werden, sollten Banken ein robustes KI-Risikomanagementsystem implementieren. Eine Bestandsaufnahme der vorhandenen Systeme und die Einordnung in die entsprechenden Risikoklassen ist essenziell. Durch einen ganzheitlichen Ansatz kann sichergestellt werden, dass alle Regularien rechtzeitig und vollständig umgesetzt werden.

Unsere Experten stehen Ihnen gerne zur Seite, um die Herausforderungen des AI Acts der EU zu bewältigen. Wir können Erfahrungen in KI-Projekten vorweisen und verbinden die optimale technische, bankfachliche und Compliance-Expertise:

  • Aufbau einer KI-Governance
  • Zuverlässige Bestandsaufnahme und Einordnung Ihrer KI-Systeme
  • Individuelle GAP-Analyse zu den geltenden Anforderungen
  • Aufbau von KI-Kompetenz durch Schulung Ihrer Mitarbeitenden und Führungskräfte

Zögern Sie nicht, uns anzusprechen, um die Anforderungen des EU AI Acts rechtzeitig und adressatengerecht umzusetzen.

Können wir Sie unterstützen?

Jan Eßer PPI AG

Jan Eßer

Managing Consultant

Kontakt
Nike Diedrich - Consultant

Nike Diedrich

Consultant

Kontakt

Das könnte Sie auch interessieren

Symbolbild

Künstliche Intelligenz in der Finanzindustrie

Egal, ob in der Fraud-Bekämpfung oder als Chatbot, ein gezielter KI-Einsatz kann entscheidende Wettbewerbsvorteile bringen. Voraussetzung dafür ist eine klare strategische Zielvorgabe und eine Planung, die neben der technischen Seite auch die menschliche Komponente berücksichtigt.

Mehr erfahren

Symbolbild

KI in der Fraud Prevention

Fraud Prevention ist bei Finanzdienstleistern ein wichtiger KI-Anwendungsfall, insbesondere bei der Überwachung des Zahlungsverkehrs. Dank riesiger Datenmengen sind die lernenden Systeme hier am stärksten entwickelt. Mit den richtigen Tools ist dieser Ansatz auf andere bankfachliche Anwendungsfälle übertragbar.

Mehr erfahren

Symbolbild

RegTech

Selbst für Fachleute ist die Fülle neuer oder geänderter Vorschriften für die Finanzindustrie kaum noch beherrschbar. Das Spannungsfeld zwischen Wirtschaftlichkeit und Compliance droht zur Achillesferse der Institute zu werden. Hier bringt Regulatory Technology (RegTech) deutliche Erleichterung.

Mehr erfahren