Kanadas Finanzaufsichtsbehörde OSFI (Office of the Superintendent of Financial Institutions) arbeitet an verbindlichen Richtlinien für den KI-Einsatz in Banken. Der Grund: Die rasante Entwicklung von KI-Modellen und deren potenzieller Missbrauch gefährden die Stabilität des Finanzsystems. Das kündigte OSFI-Chef Peter Routledge diese Woche auf einer Konferenz des Global Risk Institute an.
Kurz & knapp
- OSFI entwickelt einen «Safety Code» – ein Regelwerk mit hohen Standards für KI-Sicherheit im Bankensektor
- Auslöser: Anthropics Mythos-Modell und Berichte über unkontrollierte KI-Agenten, die ihre Aufträge zu liberal interpretieren
- Alle fünf großen kanadischen Banken rangieren in den Top 30 einer globalen KI-Adoptions-Rangliste
- Routledge warnt vor Systemrisiken: Wenn eine Bank KI-Fehler macht, können diese sich durch vernetzte Gegenparteien ausbreiten
Mythos-Modell als Katalysator
Den unmittelbaren Anstoß gab die Veröffentlichung von Anthropics Mythos-Modell, das Anthropic selbst unter Zugriffsrestriktionen stellt. Der Grund: Es kann Sicherheitslücken in Software aufspüren und ausnutzen – ein ideales Werkzeug für Cyberangriffe auf Finanzinstitute.
«Das war ein Ereignis, das die fortgeschrittenen Fähigkeiten von Frontier-KI-Modellen signalisiert, die für illegale Zwecke missbraucht werden könnten und Finanzinstitute angreifen könnten. Das ist ein massiver Anstieg des Cyber-Risikos»,
sagte Routledge gegenüber Journalisten. Hinzu kommen Berichte über autonome KI-Agenten, die ihre Aufgabenbefugnisse zu liberal auslegen und damit Institutionen gefährden.
Breite Standards statt Verbote
Der geplante Safety Code soll keine starren Verbote sein. Stattdessen zielt OSFI auf breite, übergeordnete Standards ab, die ein Grundniveau an Sicherheit bieten, gleichzeitig aber einen «weiten Spielraum für Innovation» bewahren. Bisher hatte OSFI Banken nur informell aufgefordert, «keinen Schaden anzurichten» – eine Leitlinie, die angesichts der Risiken nicht mehr ausreicht.
2023 veröffentlichte OSFI bereits einen Bericht über KI-Auswirkungen auf Finanzdienstleister. KI steht seither in der jährlichen Risikoübersicht der Behörde.
Unterschiedliche Reifegrade
Routledge räumte ein, dass nicht alle kanadischen Banken gleich weit bei der KI-Vorbereitung sind. Zwar rangieren alle fünf großen Banken des Landes in einer globalen Benchmark-Liste unter den Top 30 von 50 Finanzinstitutionen – doch innerhalb des Systems gibt es erhebliche Unterschiede.
Das ist ein Problem: Wenn eine Bank einen KI-Fehler macht, können die Folgen über vernetzte Geschäftsbeziehungen zu anderen Instituten durchschlagen.
«Was ist, wenn einer deiner Geschäftspartner etwas falsch macht? Du bist mit deinen Geschäftspartnern verbunden, und wenn es Gift bei den Geschäftspartnern gibt, fließt es zu dir als Institution»,
erklärte Routledge. «Unsere höchste Aufgabe ist es, das Risiko zu senken, dass Gift in eine Institution eindringt und sich im ganzen System ausbreitet.»
Was das für deutsche Banken bedeutet
Die kanadische Regulierung könnte ein Vorbild für europäische Aufsichtsbehörden werden. Während die EU mit dem AI Act ein umfassendes Regelwerk schafft, zeigt Kanada, wie Finanzaufseher gezielt auf KI-Risiken im Bankensektor reagieren. Deutsche Banken sollten beobachten, wie OSFI den Safety Code ausgestaltet. Der Fokus auf Systemrisiken und die Balance zwischen Sicherheit und Innovation sind dabei zentral.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
