Das Mythos-Treffen konzentrierte sich auf das falsche KI-Risiko für Banken. Hier ist das, worüber niemand spricht

(SeaPRwire) –   Als Schatzsekretär Scott Bessent und der Vorsitzende der Federal Reserve, Jay Powell, Anfang des Monats die Chefs führender US-Banken zusammenriefen, um Anthropic’s neuestes Modell, Mythos, zu besprechen, signalisierten sie eine Veränderung im Verständnis von künstlicher Intelligenz im Finanzwesen. Dies war kein Treffen über Innovation, sondern eine Warnung: Modelle, die Schwachstellen erkennen und ausnutzen können, könnten ein erhebliches Risiko für die Kernfinanzinfrastruktur darstellen.

Diese Sorge ist berechtigt. Aber der Fokus bleibt zu eng.

In den letzten Jahren habe ich in Gesprächen mit führenden Finanzinstituten gesehen, wie schnell die Besorgnis steigt, sobald die adversen Anwendungen von KI verstanden werden. Die Umsetzung in Handlungen bleibt jedoch langsam und uneinheitlich. Ein Großteil der aktuellen Aufmerksamkeit richtet sich auf Cyberrisiken. Dies ist eine ernste Bedrohung. Aber es ist nicht die einzige und nicht die unmittelbarste.

Neben den von Mythos hervorgehobenen Risiken entfaltet sich bereits eine parallele Bedrohung in großem Maßstab. Sie ist nicht auf neue Spitzenmodelle angewiesen, sondern auf KI-Fähigkeiten, die bereits weit verbreitet sind. Und im Gegensatz zu Cyberangriffen, die einen Systemzugang erfordern, zielt diese Bedrohung auf Menschen ab.

Was sich geändert hat, ist nicht nur die Raffinesse – es ist die Ökonomie

Künstliche Intelligenz hat Betrug dramatisch billiger, einfacher auszuführen und weitaus skalierbarer gemacht. Was einst Zeit und Koordination erforderte, kann nun automatisiert und in industriellem Maßstab eingesetzt werden. KI-Systeme können in Sekundenschnelle Tausende von überzeugenden Nachrichten, Stimmen und Videos generieren, die jeweils auf eine bestimmte Person zugeschnitten sind. Dies ist keine inkrementelle Veränderung. Es ist eine strukturelle.

Betrug hat sich von einer manuellen Tätigkeit zu einer maschinengesteuerten entwickelt. Hyperpersonalisierte Social-Engineering-Kampagnen, oft angetrieben von KI-Agenten, operieren nun über mehrere Kanäle, Gerichtsbarkeiten und Identitäten hinweg. Sie geben sich mit zunehmender Glaubwürdigkeit als Führungskräfte, Berater oder Familienmitglieder aus, erzeugen Dringlichkeit und veranlassen autorisierte Überweisungen.

In diesen Szenarien wird das System nicht kompromittiert. Es wird umgangen.

Das System wird nicht gehackt. Der Kunde wird überzeugt.

Kunden werden nicht unbedingt gehackt. Sie werden überzeugt. Und da Transaktionen autorisiert sind, sind bestehende Schutzmaßnahmen oft unwirksam. Biometrische Prüfungen können durch Deepfakes umgangen werden. Regelbasierte Überwachungssysteme sind darauf ausgelegt, menschliche Betrüger zu erkennen, nicht koordinierte Netzwerke von KI-Agenten, die mit Maschinengeschwindigkeit agieren.

Dies schafft eine grundlegend andere Art von Risiko.

Im Gegensatz zu Cyberangriffen, die tendenziell episodisch und sichtbar sind, operiert KI-gestützter Betrug als kontinuierlicher und verteilter Abfluss von Geldern über Millionen von Transaktionen. Es ist eine schleichende Bedrohung: einfacher auszuführen, schneller skalierbar und oft unsichtbar, bis Verluste erheblich werden. Die Entwicklung deutet auf Verluste in Billionenhöhe in den kommenden Jahren hin.

Das Risiko ist nicht nur finanziell

Wenn die Öffentlichkeit zu dem Glauben gelangt, dass Finanzinstitute Kunden nicht vor Manipulation und Betrug schützen können, wird das Vertrauen in das System untergraben. Die Folgen gehen über Verluste hinaus. Die Reibungsverluste werden zunehmen, Kunden werden zögern, und das Vertrauen in die Fähigkeit der Banken, Geld zu sichern, könnte auf eine Weise geschwächt werden, die nicht weniger schädlich ist als Cyberbedrohungen.

Dies ist keine größere Bedrohung als Cyberrisiken. Es ist eine parallele Bedrohung. Und sie verdient ähnliche Aufmerksamkeit.

Eine Neugestaltung der Verteidigung, keine inkrementelle Lösung

Die meisten Institutionen verlassen sich immer noch auf fragmentierte Daten, veraltete Überwachungssysteme und menschliche Analysen, die mit adaptiven, KI-gesteuerten Bedrohungen nicht Schritt halten können. Eine sinnvolle Reaktion erfordert eine architektonische Neugestaltung: Echtzeit-KI-native Erkennung; Integration von Betrugs-, AML- und Verhaltenssignalen; und die Fähigkeit, zum Zeitpunkt der Transaktion einzugreifen, auch bei autorisierten Zahlungen.

Es erfordert auch den Übergang von isolierten zu koordinierten Abwehrmaßnahmen. Betrugskampagnen zielen gleichzeitig auf Kunden über verschiedene Institutionen hinweg ab, während die Kontrollen isoliert bleiben. Eine effektive Reaktion hängt von der Echtzeit-Identifizierung von Mustern und Kampagnen ab. Datenschutz- und Wettbewerbsaspekte bleiben wichtig, aber sie können strukturelle blinde Flecken nicht länger rechtfertigen. Datenschutzfreundliche Technologien bieten einen Weg nach vorn und ermöglichen es Institutionen, Signale auszutauschen, ohne sensible Daten preiszugeben.

Parallel dazu müssen die Institutionen einen „Defense AI“-Ansatz verfolgen: KI zur Abwehr von KI-gesteuerten Bedrohungen einsetzen. Rein menschliche erste Verteidigungslinien können nicht skaliert werden. KI-native Systeme müssen eine schnellere Erkennung und Reaktion unter menschlicher Aufsicht unterstützen.

Regulierungsbehörden müssen sich auch damit befassen – bevor die Katastrophe eintritt

Die Lektion aus dem Mythos-Moment ist nicht nur, dass KI Systeme brechen kann. Es ist, dass das Finanzsystem bereits auf andere Weise ausgenutzt wird: weniger sichtbar, skalierbarer und potenziell genauso korrosiv.

Wenn das Finanzsystem nicht schnell reagiert, werden die Folgen gravierend sein: steigende Verluste, steigende Reibungsverluste und eine erhebliche Erosion des öffentlichen Vertrauens.

Die Regulierungsbehörden sollten auch hochrangige Finanzführer zu diesem Thema zusammenrufen, als paralleles KI-Risiko, bevor eine Katastrophe, die bereits in Reichweite von böswilligen Akteuren liegt, vollständig eintritt. Das Finanzsystem, der Technologiesektor und die politischen Entscheidungsträger müssen nun das Ausmaß dieser Schwachstelle erkennen und mit weitaus größerer Dringlichkeit handeln.