Vatikan trifft auf KI-Pionier: Warum ein Atheist und Milliardär die Tech-Branche zur Demut mahnt

(SeaPRwire) –   Manchmal sind es die unerwartetsten Allianzen, die den schärfsten Blick auf unsere Branche werfen. Als letzte Woche Papst Leo XIV. seine erste Enzyklika zu den Gefahren der Künstlichen Intelligenz vorstellte, saß neben ihm ein Mann, der in dieser Umgebung fremder nicht hätte wirken können: Chris Olah, erklärter Atheist, Milliardär und Mitgründer von Anthropic. Für mich als langjährigen Beobachter der KI-Szene ist diese Konstellation kein Zufall, sondern ein Symptom für eine tiefgreifende Krise.

„Die Szene im Vatikan war mehr als nur symbolisch“, kommentiert Dr. Lena Berger, Professorin für Technikethik an der ETH Zürich, auf meine Nachfrage. „Hier tritt ein Insider, der den Wettlauf um die leistungsstärksten Modelle aus erster Hand kennt, vor die Welt und entzieht seiner eigenen Zunft die moralische Kompetenz. Das ist ein seismisches Ereignis. Olah erkennt an, dass die inhärenten Anreize des Kapitals – Wachstum, Marktanteile, Rendite – selbst die aufrichtigsten Sicherheitsbemühungen korrumpieren können. Seine Botschaft ist klar: Die KI-Industrie hat bewiesen, dass sie sich nicht selbst regulieren kann. Wir brauchen externe, legitimierte Instanzen – ob nun aus Religion, Wissenschaft oder Politik – die als Korrektiv fungieren. Die Ära des technologischen Laissez-faire ist vorbei.“

Chris Olah selbst räumte die Besonderheit seiner Präsenz ein. In seinen vorbereiteten Bemerkungen begann er mit den Worten, dass das, was er sagen werde, seltsam klingen möge, käme es vom Mitgründer eines KI-Unternehmens. Sein Kernargument: KI-Firmen müssten, um profitabel zu bleiben und Forschung voranzutreiben, sicherstellen, dass sie „das Richtige tun“. Doch egal wie aufrichtig die Absichten seien, die Anreize des Systems würden sie immer beeinflussen. Aus diesem Paradox heraus forderte er, dass externe Kritiker – die katholische Kirche, Wissenschaftler, Regierungen – die Branche überwachen und ihre moralischen Verpflichtungen in den Vordergrund stellen müssten. „Einige mögen glauben, dass Angelegenheiten der KI am besten von Informatikern wie mir geregelt werden“, sagte er. „Sie irren sich.“

Der Weg des 32-Jährigen in den Vatikan war ungewöhnlich. In Toronto aufgewachsen, war Olah einst ein „frommer evangelikaler Christ“, wurde aber mit 15 Atheist. Ein Mathematikstudium an der University of Toronto brach er nach etwa einem Jahr ab. 2012 erhielt er ein Stipendium des Thiel Fellowship, das junge Talente außerhalb des traditionellen Uni-Systems fördert. Seine Leidenschaft für mathematische Visualisierungen mit 3D-Druckern war damals schon erkennbar. Ab 2015 arbeitete er drei Jahre bei Google Brain, stieg vom Praktikanten zum Research Scientist auf und trieb dort die Erforschung der „mechanistischen Interpretierbarkeit“ voran – also dem Versuch, zu verstehen, was in neuronalen Netzen vor sich geht. Seine Arbeit, darunter das einflussreiche Papier „The Building Blocks of Interpretability“, erregte die Aufmerksamkeit von OpenAI.

Von 2018 bis 2020 leitete Olah dort das Interpretability-Team und war an bahnbrechenden Projekten beteiligt: dem „Circuits“-Projekt, das strukturierte, interpretierbare Muster in Neuronen nachweisen wollte, und der Entdeckung multimodaler Neuronen im CLIP-Modell, die ähnlich wie im menschlichen Gehirn auf Konzepte unabhängig von ihrer Darstellungsform reagieren. 2020 verließ er OpenAI mit sechs weiteren Kollegen, darunter Dario Amodei, aus Sicherheitsbedenken und gründete Anthropic. Das Unternehmen wurde zuletzt mit 965 Milliarden Dollar bewertet, Olahs Vermögen liegt laut Bloomberg bei knapp 8 Milliarden Dollar. Seine Haltung steht im Kontrast zu Tech-Optimisten wie Marc Andreessen, steht aber im Einklang mit Anthropics sicherheitszentrierter Mission und der päpstlichen Enzyklika „Magnifica Humanitas“, die einen gemessenen, wachsamen Ansatz fordert.

Was bedeutet das für uns? Die Debatte ist nicht länger nur eine zwischen Techno-Optimisten und -Pessimisten. Sie verlagert sich auf das Feld der Governance. Olahs Auftritt signalisiert, dass einflussreiche Akteure innerhalb der KI-Elite den Glauben an die Selbstregulierungskraft des Marktes verlieren. Die Frage ist nicht mehr ob, sondern wie und durch wen externe Aufsicht gestaltet wird. Werden es fragmentierte staatliche Regulierungen sein, globale Gremien, oder doch unerwartete moralische Autoritäten wie religiöse Institutionen? Für Startups und etablierte Player gleichermaßen wird die Fähigkeit, mit diesen externen Erwartungen und Kontrollen konstruktiv umzugehen, zu einem entscheidenden Wettbewerbsfaktor. Die nächste Phase der KI-Entwicklung wird nicht nur im Rechenzentrum, sondern genauso sehr in Konferenzsälen, Parlamenten und vielleicht sogar weiteren Sakralbauten entschieden. Die Illusion der technologischen Autonomie ist geplatzt.