Nachdem das Europäische Parlament, der EU-Rat und die EU-Kommission erfolgreich eine Einigung zum Text erzielt hatten, wurde am 8. Dezember 2023 das Gesetz über künstliche Intelligenz, die sogenannte KI-Verordnung, von der EU verfasst. Diese Verordnung entstand als unmittelbare Reaktion auf die Vorschläge der Bürgerinnen und Bürger im Rahmen der Konferenz zur Zukunft Europas. Ziel der Verordnung ist es, die Wettbewerbsfähigkeit der EU in strategischen Sektoren zu stärken, die Förderung digitaler Innovation zu unterstützen und eine verantwortungsvolle Nutzung von KI zu gewährleisten. Am 13. März 2024 fand die endgültige Abstimmung zur Verordnung im Europäischen Parlament statt. Nun wird sie von Rechts- und Sprachexperten überprüft und voraussichtlich im Verlauf des zweiten Quartals 2024 angenommen. Die Verordnung tritt 20 Tage nach ihrer Veröffentlichung im Amtsblatt der EU in Kraft.
Wesentliche regulatorische Neuerungen im Zusammenhang mit der KI-Verordnung
Die neue Verordnung stellt das weltweit erste umfassende Regelwerk in Bezug auf künstliche Intelligenz dar. Mit den entsprechenden Vorschriften sollen Möglichkeiten zur Nutzung neuer Potenziale gefördert, damit einhergehende Risiken aber gleichzeitig gemindert werden. Die regulatorischen Vorgaben beziehen sich mitunter auf folgende Aspekte:
Risikobasierte Klassifizierung von KI-Systemen: Aufgrund ihrer potenziellen Risiken für die Gesellschaft und die Grundrechte werden KI-Anwendungen in verschiedene Kategorien eingeteilt, darunter Systeme mit inakzeptablem, hohem, begrenztem sowie keinem oder minimalem Risiko.
Verbotene Anwendungen: Die Verordnung untersagt die Nutzung von KI-Anwendungen, die die Rechte der Bürgerinnen und Bürger gefährden könnten, wie zum Beispiel Emotionserkennungssysteme am Arbeitsplatz oder die Beurteilung von sozialem Verhalten mithilfe von KI.
Verpflichtungen für Hochrisikosysteme: KI-Systeme, die als hochriskant betrachtet werden, müssen ihre Risiken evaluieren und mindern, Nutzungsprotokolle führen und von menschlicher Aufsicht begleitet werden. Beispiele für derartige Systeme sind KI-Anwendungen in kritischer Infrastruktur, im Gesundheitswesen, bei der Strafverfolgung sowie in den Bereichen Migration und Grenzüberwachung.
Transparenzanforderungen: KI-Systeme, welche uneingeschränkt genutzt werden, müssen spezifische Transparenzanforderungen erfüllen. Dazu gehört auch die Veröffentlichung von Zusammenfassungen der Daten, die für das Training dieser Systeme genutzt werden.
Bedeutung der KI-Verordnung für den Schweizer Finanzsektor
Die Eidgenössische Finanzmarktaufsicht FINMA hat KI bereits in ihrem Risikomonitor vom November 2023 als langfristigen Trend und strategisches Risiko identifiziert. Sie plant, den Einsatz von KI bei ihren beaufsichtigten Instituten zu prüfen und die Entwicklungen im In- und Ausland aufmerksam zu verfolgen. Ausserdem hat die FINMA bereits Erwartungen an Schweizer Finanzdienstleister bezüglich Governance, Zuverlässigkeit, Transparenz und Gleichbehandlung im Zusammenhang mit KI formuliert. Es ist zudem davon auszugehen, dass sich die EU-Standards auch in der Schweiz als bewährte Praxis etablieren werden. Konkret wird die EU-KI-Verordnung auch auf Schweizer Unternehmen angewendet, die KI-Systeme in der EU verwenden oder vertreiben. Schweizer Finanzdienstleister sollen demzufolge die Erwartungen der FINMA sowie die endgültige Fassung der EU-KI-Verordnung überprüfen und entsprechend umsetzen.
Der kommende Weg für den Schweizer und den Europäischen Finanzsektor wird zweifellos durch den zunehmenden Trend der künstlichen Intelligenz geformt werden. Entsprechend werden neue Anforderungen im Bereich der KI-Regulierung und die Implementierung entsprechender Vorgaben für Finanzdienstleister einen zentralen Aspekt im Zusammenhang mit dem Einsatz von künstlicher Intelligenz darstellen.