Der übermäßige Einsatz von Robotern könne zu Voreingenommenheit, Panik oder einfach nur schlechter Beratung führen, befürchten Beamte.
Die Europäische Kommission ist einer heute (18. Juni) veröffentlichten Konsultation zufolge besorgt über die Auswirkungen des Einsatzes künstlicher Intelligenz (KI) auf den Banken-, Versicherungs- und Wertpapiermärkten.
Die EU hat gerade ein umfassendes KI-Gesetz verabschiedet und ist damit die erste Jurisdiktion weltweit, die Gesetze erlässt, um die neue Technologie sicher und diskriminierungsfrei zu machen.
Doch fragen sich die Verantwortlichen nun, ob nicht noch mehr Leitlinien nötig seien, um die Regeln auf den Finanzsektor anzuwenden – einen Bereich, der bereits strengen Regulierungsanforderungen unterliegt und in dem Fehler hohe Kosten verursachen könnten.
„Das KI-Gesetz der EU und die bestehenden Vorschriften für den Finanzsektor bieten eine solide Grundlage für technologische Innovationen“, sagte Mairead McGuinness, EU-Kommissarin für Finanzdienstleistungen, in einer Erklärung und rief die Menschen dazu auf, ihre Ansichten zu einem „sich rasch verändernden und zunehmend wichtigen Bereich des technologischen Fortschritts“ auszutauschen.
Das neue EU-Technologiegesetz, das ab Mai 2025 gelten soll, würde zwar für die gesamte Wirtschaft gelten, automatisierte Tools, die in risikoreicheren Sektoren wie dem Gesundheitswesen, der Strafverfolgung und der Personalbeschaffung eingesetzt werden, jedoch einer zusätzlichen Überwachung unterziehen.
Bonitätsprüfung
Auch bei sensiblen Finanz-Anwendungen, etwa zur Beurteilung der Kreditwürdigkeit einer Person, wird darauf hingewiesen, dass hierfür möglicherweise detailliertere Gesetze oder Leitlinien erforderlich sind.
Es wäre nicht das erste Mal, dass Brüsseler Beamte angesichts der Technologienutzung im Finanzsektor skeptisch reagieren.
Im Jahr 2022 verabschiedete die EU neue Vorschriften mit der Bezeichnung „Digital Operational Resilience Act“ (DORA), da man befürchtete, dass die Nutzung einer Handvoll unregulierter Cloud-Computing-Anbieter durch Banken zu Datenschutzverletzungen oder einer Panik an den Märkten führen könnte.
Ebenso besorgt scheint die Kommission über die Möglichkeit eines Herdenverhaltens zu sein, wenn sich also mehrere Geldgeber bei ihren Geschäftsentscheidungen auf dieselben IT-Systeme verlassen.
Die daraus resultierenden übertriebenen Preisschwankungen oder eine Marktkonzentration könnten ein Risiko für die Finanzmärkte darstellen – oder die Roboter könnten mit ihren Antworten einfach schlichtweg falsch liegen, heißt es in dem Konsultationsdokument.
Unsinn?
„Allgemeine KI … kann manchmal ‚Halluzinationen‘ produzieren, also unsinnige oder ungenaue Antworten“, hieß es.
Dieses Phänomen ist jedem bekannt, der versucht hat, von ChatGPT eine klare Antwort zu erhalten. Allerdings würde es auch für Robo-Finanzierer problematisch, da sie gesetzlich dazu verpflichtet sind, im besten Interesse ihrer Kunden korrekte Beratung zu leisten.
KI könne positive Auswirkungen haben, sagte die Kommission – etwa durch die Entdeckung von zwielichtigen Handelsaktivitäten, die auf Marktmissbrauch hindeuten könnten. Die Beamten scheinen jedoch auch besorgt darüber zu sein, dass schlecht erstellte KI-Datensätze zu weit verbreiteter Diskriminierung führen könnten.
Im Jahr 2011 erklärte das höchste Gericht der EU, dass es rechtswidrig sei, Männern höhere Autoversicherungspreise zu berechnen. Doch ein Preisalgorithmus könnte dazu führen, dass Menschen eines bestimmten Geschlechts oder einer bestimmten Rasse am Ende mehr zahlen, ohne dass ein Mensch erklären kann, warum.
