Wie können Finanzinstitute das Risiko unethischer Ergebnisse durch KI-Systeme minimieren und die Vorteile der Technologie maximieren?

Von Gery Zollinger, Head of Data Science & Analytics, Avaloq

Künstliche Intelligenz (KI) ist eine Kombination aus maschinellem Lernen und Big Data aus der realen Welt. Doch diese Daten können mit expliziten oder impliziten Vorurteilen behaftet sein, die das KI-System erlernen kann. In bestimmten Bereichen, zum Beispiel im Human Resources, kann die Verwendung historischer Daten gängige menschliche Vorurteile noch verstärken.

Daher ist es bei der Entwicklung eines KI-Systems umso wichtiger, Bereiche mit hohem Risiko zu identifizieren und einen klaren Rahmen für das kontinuierliche Monitoring sowie die Nachschulung der KI-Engine festzulegen. Wenn Unternehmen die entsprechenden Risiken verstehen, können sie potenziell unethische Ergebnisse minimieren und die Vorteile von KI für ihr Geschäft maximieren.

Was bedeutet das für Finanzinstitute?

Der Einsatz von KI bei Finanzdienstleistungen verbreitet sich stetig und der Druck, KI für Wettbewerbsvorteile in Geschäftsprozesse zu integrieren, ist immens. Gleichzeitig hinken die regulatorischen Bestimmungen beträchtlich hinter den technologischen Innovationen her, sodass es für Finanzinstitute schwierig sein kann, Best-Practice-Leitlinien für KI zu finden.

Weitere Informationen über ethische KI in der Finanzbranche finden Sie hier.

Die Europäische Kommission hat als eines der ersten Kontrollorgane weltweit einen Vorschlag für die Regulierung des KI-Einsatzes ausgearbeitet. Sie klassifiziert darin KI-Aktivitäten nach Risikokategorien, von unannehmbarem Risiko bis zu minimalem Risiko. Dabei wird beispielsweise die Kreditvergabe wegen der Gefahr von Voreingenommenheit in die Kategorie «hohes Risiko» eingestuft. Dieser Vorschlag wird wahrscheinlich als Vorlage für ähnliche Regulierungen in Ländern wie der Schweiz und Singapur dienen und sollte daher bei Finanzinstituten weltweit Beachtung finden.

Können Sie Beispiele für den Einsatz von KI in der Finanzbranche nennen?

Der traditionelle Anwendungsfall von KI-Systemen im Finanzbereich ist die Automatisierung und Standardisierung von Routineaufgaben, sodass sich Unternehmen wie z.B. Vermögensverwalter stärker auf die Verbesserung ihres Leistungsversprechens und die Stärkung der Kundenbeziehungen konzentrieren können. KI kann heute jedoch noch viel mehr.

Zum Beispiel können Finanzinstitute inzwischen KI anwenden, um auf Basis der Risikobereitschaft, der Ziele und der Präferenzen der Anleger sofort personalisierte Portfolioempfehlungen zu erstellen. Ein weiterer innovativer Bereich ist das Conversational Banking, wo KI-Systeme Natural Language Processing (NLP) einsetzen, um mit Kunden zu interagieren und ihre Ziele zu verstehen. Dies geht über die reine Effizienzsteigerung hinaus – es fördert das Kundenerlebnis und stärkt die Kundenbindung.

Wie können Finanzinstitute das Maximum aus KI herausholen?

Um den Mehrwert von KI zu maximieren, benötigen Unternehmen einen Partner, der die Technologie hinter dem System versteht und mit den regulatorischen Rahmenbedingungen sowie der Finanzbranche insgesamt vertraut ist. KI muss mit einem soliden Monitoring verbunden werden, um die Performance kontinuierlich zu verbessern und potenzielle Schwächen, wie etwa bei ethischen Fragen, zu adressieren.

Nach den Empfehlungen der Europäischen Kommission sollten KI-Systeme in erster Linie in risikoarmen Bereichen eingesetzt werden, beispielsweise für Anlageempfehlungen, Vorhersagen zur Kundenabwanderung und Chatbots, um den Schweregrad etwaiger unfairer Voreingenommenheit zu minimieren.

Wo KI-Systeme in Bereichen mit höherem Risiko benötigt werden, müssen Unternehmen besonders vorsichtig sein und ein noch strikteres Monitoring einführen. Mit einer Kombination aus diesen Faktoren können Finanzinstitute die Effizienz von KI nutzen, um für sich einen Wettbewerbsvorteil zu erzielen und gleichzeitig ethisch korrekt gegenüber ihren Kunden zu sein.

  • Weitere Informationen über ethische KI in der Finanzbranche finden Sie hier auf der aktuellen Insights-Seite von Avaloq.