Die Cybersicherheitsfähigkeiten von Anthropic’s Mythos erfordern dringende internationale Zusammenarbeit, sagt der „AI-Gottvater“ Yoshua Bengio

(SeaPRwire) –   Yoshua Bengio, ein Informatiker, der als einer der „Götterväter der KI“ gilt, weil er bei der Entwicklung der Deep-Learning-Systeme geholfen hat, die den heutigen KI-Modellen zugrunde liegen, warnt seit Jahren vor den Risiken der Technologie, die er mitgeschaffen hat. Jetzt, so sagt er, zeigen neue Modelle wie Anthropic’s Mythos, warum internationale Institutionen dringend zusammenarbeiten müssen, um die potenziellen Gefahren der KI anzugehen.

Anthropic’s neuestes Modell, Claude Mythos, soll einen großen Schritt nach vorn in der Cybersicherheit darstellen, indem es Tausende bislang unbekannter „Zero-Day“-Schwachstellen identifiziert. Zero-Days sind Fehler in Software, die den Programmierern, die diese Software erstellt haben, unbekannt sind und die Hackern ermöglichen könnten, Sicherheitskontrollen zu umgehen und potenziell lebenswichtige Daten zu stehlen.

Allerdings hat das Unternehmen erklärt, dass es das System nur an eine kleine Gruppe von Firmen freigibt, um ihnen einen Vorsprung bei der Sicherung wichtiger Systeme zu verschaffen, da diese Fähigkeiten dual use sind – und ausgefeilte Cyberangriffe ermöglichen könnten, die kritische globale Infrastruktur stören.

Die erste Gruppe von Unternehmen, mit denen Anthropic entschied, Mythos zu teilen, waren alle in den USA ansässige Technologieunternehmen, deren Software einen Großteil der kritischen Systeme der Welt stützt. Das Unternehmen hat auch die US-Regierung über die Technologie informiert und ist dabei, einigen US-Regierungsdepartementen und -agenturen Zugang zum Modell zu gewähren.

Während einige die Vorsicht des Unternehmens gelobt haben, sich für eine stark begrenzte Freigabe von Mythos zu entscheiden, hat die Entscheidung unangenehme Fragen zur Konzentration von Macht in den Händen eines einzigen US-Unternehmens aufgeworfen. Nur Anthropic entschied, mit wem es Mythos teilen würde. Das hat viele Unternehmen und Regierungen, die von dieser ersten Gruppe ausgeschlossen wurden, dazu gebracht, um Zugang zu bitten, damit sie auch ihre Systeme schützen können. Die Situation hat vielen verdeutlicht, warum die Verantwortung für die KI-Governance weitaus breiter und international geteilt werden muss.

“Es macht keinen Sinn, dass private Personen das Schicksal der Infrastruktur für alle anderen entscheiden”, sagte Bengio in einem Interview mit . “Was ist mit allen Unternehmen und Ländern, die keinen Zugang bekamen?”

Bengio, der den Turing Award gewonnen hat – der als das Äquivalent des Nobelpreises in der Informatik gilt – ist keineswegs der Einzige, der diese Frage dringend stellt. Die Bank of England beispielsweise hat Anthropic aufgefordert, U.K.-Banken Zugang zu Mythos zu gewähren und öffentlich bekannt gegeben, dass das Unternehmen versichert hat, dass diese Institutionen in der kommenden Woche Zugang zum Modell erhalten werden. Die Diskussionen auf den Frühjahrsmeetings des IWF und der Weltbank, die derzeit in Washington stattfinden, wurden unerwartet von Sorgen über Mythos‘ Fähigkeiten dominiert. Politiker warnten, dass Systeme wie Mythos Schwächen im globalen Bankensystem aufdecken könnten, während Regulatoren und Führungskräfte – insbesondere in Europa – sagten, dass sie noch keinen Zugang zum Modell haben oder die Größe der von ihm aufgedeckten Schwachstellen nicht vollständig verstehen.

Für viele außerhalb der USA wird Mythos wahrscheinlich den bereits wachsenden Wunsch nach „KI-Souveränität“ beschleunigen – ein Begriff, der im Allgemeinen darauf hinweist, über KI-Fähigkeiten und Infrastruktur zu verfügen, die nicht von Unternehmen und Regierungen außerhalb des Landes abhängig sind. Viele Orte sind besonders vorsichtig, sich zu sehr von amerikanischer Technologie abhängig zu machen, zu einer Zeit, in der die US-Regierung ein weniger verlässlicher Verbündeter geworden ist und sich bereit gezeigt hat, Engpässe in der Lieferkette als Waffe zu einsetzen, um andere politische Ziele zu erreichen. Es gibt auch Sorgen darüber, von nur wenigen amerikanischen Tech-CEOs abhängig zu sein.

Gleichzeitig in Washington bemüht sich die US-Regierung, ihren eigenen Zugang zu dem leistungsstarken Modell zu sichern. In einem von Bloomberg überprüften Memo teilte das White House Office of Management and Budget Kabinett Departementen diese Woche mit, dass es Schutzmaßnahmen einrichtet, um Bundesagenturen – darunter Verteidigung, Finanzministerium, Handel, Heimat Sicherheit, Justiz und Außenministerium – die Nutzung einer Version von Mythos zu ermöglichen, mit weiteren Details erwartet “in den kommenden Wochen”.

Der Vorstoß erfolgt trotz eines anhaltenden Rechtsstreits zwischen Anthropic und dem Pentagon, das das Unternehmen Anfang dieses Jahres wegen eines Streits über KI-Schutzmaßnahmen als Lieferkettenbedrohung deklariert hat. (Anthropic hat diese Bezeichnung vor Gericht angefochten.) Laut einem Bericht von Axios hat Anthropic-CEO Dario Amodei für Freitag ein Treffen mit White House Chief of Staff Susie Wiles geplant, um den anhaltenden Streit zu lösen.

Bengio fordert eine weitaus stärkere internationale Koordination als Reaktion auf die neuen Cybersicherheitsrisiken, einschließlich der Schaffung einer regulatorischen Behörde ähnlich der Food and Drug Administration (FDA), um die Entwicklung und den Einsatz fortgeschrittener KI-Systeme zu überwachen. Er argumentierte, dass Regierungen – insbesondere die USA – Unternehmen, die diese Modelle entwickeln, klarere Pflichten auferlegen sollten, um sicherzustellen, dass ihre Technologien nicht unbeabsichtigt kritische Infrastruktur in anderen Ländern schädigen, und dass die Überwachung solcher Entscheidungen mit hohen Einsätzen nicht allein in die Hände privater Akteure gelegt werden kann.

“Es muss eine Behörde geben, die wirklich für die Überwachung dieser Art von Entscheidungen verantwortlich ist”, sagte er. “Wenn die Macht der KI weiter wächst, wird diese Frage der internationalen Verpflichtung dringend. Es gibt keinen Grund, dass sie sich auf den Angriff auf US-Infrastruktur oder US-Bürger beschränken wird. Also muss dies eine internationale Angelegenheit sein.”

Die Open-Source-Frage

Bengio sagte auch, dass eine Vereinbarung mit China Teil jeder sinnvollen globalen Reaktion sein muss. Die USA und China sind in einem aggressiven Wettlauf um die KI-Herrschaft verstrickt.

Während Bengio schätzte, dass führende chinesische KI-Modelle in rohen Fähigkeiten wahrscheinlich etwa sechs Monate hinter ihren US-Pendants zurückbleiben, betonte er, dass die Lücke wenig dazu beiträgt, das zugrunde liegende Risiko zu reduzieren.

China macht auch rasche Fortschritte bei Open-Source-Modellen – Systemen, bei denen die zugrunde liegenden Modellparameter und Code öffentlich verfügbar gemacht werden – die Bengio warnte, könnten letztendlich eine noch größere Gefahr darstellen als leistungsstarke Systeme wie Mythos.

Im Gegensatz zu proprietären Modellen können diese Open-Source-Systeme von jedermann heruntergeladen, modifiziert und ausgeführt werden. Bengio sagte, dass dies bedeutet, dass die Sicherheitsbarrieren, die Unternehmen einbauen – wie Filter, die darauf ausgelegt sind, bösartige Anfragen zu blockieren – einfach von Nutzern entfernt werden können, sodass wenig gegen Missbrauch geschützt ist.

Wenn Modelle fähiger werden, Software-Schwachstellen zu identifizieren und auszunutzen, warnte er, dass ihre offene Freigabe leistungsstarke Cyberfähigkeiten direkt an böse Akteure übergeben könnte.

Die Sorge beschränkt sich nicht auf Open-Source-KI. Bengio warnte, dass die breitere Tradition von Open-Source-Software – die lange als Säule der Internet-Sicherheit galt – auch durch diese Fähigkeiten umgestaltet wird.

Seit Jahrzehnten wird Open-Source-Software – bei der Code öffentlich verfügbar ist – als sicherer angesehen, da sie mehr Entwicklern ermöglicht, Schwachstellen zu überprüfen und zu beheben. Aber hochfähige KI-Systeme können nun denselben öffentlichen Code in großem Maßstab scannen, um Schwachstellen weit schneller als Menschen zu identifizieren, was potenziell weit verbreitete offene Infrastruktur zu einem Hauptziel machen könnte. Obwohl Bengio, ein langjähriger Verfechter von Open-Source, sagte, dass offene Systeme noch immer wichtige Transparenz- und demokratische Vorteile bieten, können sie in einer Ära der KI-gestützten Cyberangriffe auch zu einer ernsthaften Haftung werden.