Papst warnt vor “perversen” Deepfakes

(SeaPRwire) –   Der Papst warnte vor “perversen” Deepfakes

Papst Franziskus hat vor den potenziellen Gefahren gewarnt, die von der Künstlichen Intelligenz ausgehen können und sagte, die sich schnell entwickelnde Technologie könnte zu einer “Verzerrung der Realität” führen, ohne “ethische Regulierung”.

In einer ausführlichen Botschaft, die am Mittwoch veröffentlicht wurde, sagte Franziskus, dass die jüngsten Entwicklungen in der KI sowohl “aufregend als auch desorientierend” seien, aber auch tiefere Fragen über das Verhältnis des Menschen zur Technologie aufwerfen. “Wie können wir vollständig menschlich bleiben und diese kulturelle Transformation in eine gute Richtung lenken?” schrieb er.

“Künstliche Intelligenz-Systeme können dazu beitragen, Unwissenheit zu überwinden und den Informationsaustausch zwischen verschiedenen Völkern und Generationen zu erleichtern,” schrieb der Papst. “Gleichzeitig können sie aber auch eine Quelle der ‘kognitiven Verschmutzung’ sein, eine Verzerrung der Realität durch teilweise oder vollständig falsche Narrative, die als wahr geglaubt und verbreitet werden.”

Der Papst ging auch auf das “langjährige Problem der Desinformation in Form von Fake News” ein und merkte an, dass er selbst Opfer von ‘Deepfakes’ geworden sei – hoch überzeugende, künstlich erzeugte Bilder oder Audio, die in der Regel verwendet werden, um öffentliche Persönlichkeiten nachzuahmen.

“Die Simulationstechnologie hinter diesen Programmen kann in bestimmten spezifischen Bereichen nützlich sein, aber sie wird pervers, wenn sie unser Verhältnis zueinander und zur Realität verzerrt,” fuhr Franziskus fort.

Die digitale Revolution kann uns mehr Freiheit bringen, aber nicht, wenn sie uns in Modelle einsperrt, die heute als ‘Echokammern’ bezeichnet werden.

Der Kirchenführer wurde letztes Jahr in einem gefälschten Bild dargestellt, das ihn mit einem . Das gefälschte Bild wurde angeblich mit Midjourney erzeugt, einem auf KI basierenden Kunstwerkzeug, laut seinem selbsternannten Ersteller. Das Bild verbreitete sich viral in sozialen Medien und täuschte viele Nutzer.

Während die Menschen “katastrophische Vorhersagen” über die Zukunft der KI “beiseite legen” sollten, argumentierte Franziskus, dass die Technologie “dazu führen könnte, neue Kasten auf der Grundlage des Zugangs zu Informationen zu schaffen” und “neue Formen der Ausbeutung und Ungleichheit” hervorbringen könnte. Um die schlimmsten Auswirkungen zu vermeiden, betonte er die Notwendigkeit zu “verstehen, schätzen und Instrumente zu regulieren, die in falschen Händen zu beunruhigenden Szenarien führen könnten.”

“Wie jedes andere Produkt menschlicher Intelligenz und Fähigkeit sind Algorithmen nicht neutral. Aus diesem Grund besteht die Notwendigkeit, präventiv zu handeln, indem Modelle ethischer Regulierung vorgeschlagen werden, um schädliche, diskriminierende und sozial ungerechte Auswirkungen der Nutzung von Systemen der Künstlichen Intelligenz zu verhindern und ihren Missbrauch zu bekämpfen,” sagte er und forderte einen “verbindlichen internationalen Vertrag”, der die Nutzung und Entwicklung von KI regelt.