Falsche Nacktbilder von Taylor Swift “alarmierend” – Weißes Haus

(SeaPRwire) –   Die AI-generierten Bilder wurden Berichten zufolge über 47 Millionen Mal angesehen, bevor der Konto, das sie auf X veröffentlicht hatte, gesperrt wurde

Sexuell explizite “Fotos” der Popsängerin Taylor Swift, die sich Anfang dieser Woche in sozialen Medien verbreiteten, waren “alarmierend”, sagte die Sprecherin des Weißen Hauses, Karine Jean-Pierre, Reportern während einer Pressekonferenz am Freitag und versprach, Maßnahmen gegen nicht einvernehmliche AI-Pornografie würden folgen.

“Wir werden tun, was wir können, um dieses Problem anzugehen”, sagte Jean-Pierre und fügte hinzu, dass der Kongress Gesetzgebung verabschieden und soziale Medien-Plattformen stärker gegen das Teilen und Veröffentlichen solcher Bilder vorgehen sollten.

“Während soziale Medien-Unternehmen eigene unabhängige Entscheidungen über Inhaltsmanagement treffen, glauben wir, dass sie eine wichtige Rolle bei der Durchsetzung ihrer eigenen Regeln spielen, um die Verbreitung von Falschinformationen und nicht einvernehmlichen intimen Aufnahmen echter Menschen zu verhindern”, sagte sie.

Eines der Bilder, das auf X veröffentlicht wurde, wurde Berichten zufolge über 47 Millionen Mal angesehen, bevor das Konto, das es veröffentlicht hatte, gesperrt wurde, wie die New York Times berichtete. X erklärte, an der Entfernung der Bilder zu arbeiten und mehrere Konten gesperrt zu haben, die sie veröffentlicht hatten. Die Plattform-Nutzungsbedingungen verbieten das Teilen von mit KI generierten Bildern echter Menschen, egal ob pornografisch oder nicht.

Eine Suche nach “Taylor Swift” auf X lieferte am Samstagnachmittag einen Fehler. Ein Swift-Fan auf der Plattform sagte, der Suchbegriff sei “verboten” worden. Es war jedoch weiterhin möglich, “Taylor Swift” in einer Suche zu verwenden, solange ein anderes Wort oder weitere Wörter davor kamen – egal ob “schützen” oder “KI generiert”.

Einige der Bilder wurden ursprünglich in einer Telegram-Gruppe zu “nicht einvernehmlichen KI-generierten sexuellen Bildern von Frauen” am Donnerstag veröffentlicht, wie das Tech-Blog 404 Media berichtete. Andere kursierten schon seit Wochen auf Troll-Hochburg 4chan und anderen Foren, bevor der Übergang in die “Mainstream”-Sozialen Medien sie viral machten.

Viele der Bilder wurden mit Microsofts Designer erstellt, einem kommerziell erhältlichen KI-Text-zu-Bild-Generator. Die Telegram-Gruppe erklärt Neulingen, wie Microsofts eigenen Schutz vor Celebrity-Deepfakes und Pornografie umgangen werden kann und dass, während das Programm nicht auf die Aufforderung “Taylor Swift” reagieren wird, es bereitwillig auf eine wie “Taylor Sängerin Swift” antworten wird.

Microsoft sagte dem Blog, man untersuche diese Berichte und werde entsprechende Maßnahmen ergreifen, und verwies darauf, dass die Nutzungsbedingungen das Erstellen von “Erwachsenen- oder nicht einvernehmlichen intimen Inhalten” verbieten.

US-Gesetzgeber brachten Anfang dieses Monats im Repräsentantenhaus einen Gesetzentwurf ein, der die Nutzung von KI für Audio- und Video-Deepfakes auf Bundesebene kontrollieren soll. Das Gesetz mit dem Namen No Artificial Intelligence Fake Replies and Unauthorized Duplications Act (NO AI FRAUD Act) basiert Berichten zufolge auf dem ähnlichen Gesetzentwurf des Senats mit dem Namen Nurture Originals, Foster Art, and Keep Entertainment Safe Act (NO FAKES Act), der es Celebrities erlaubt, jeder Person zu verklagen, die ohne Erlaubnis ihre Bilder oder ihre Stimme in “digitalen Repliken” verwendet.