Meta markiert von KI erstellte Inhalte

(SeaPRwire) –   Die Muttergesellschaft von Facebook und Instagram wird AI-generierte Inhalte kennzeichnen

Meta wird ab Mai damit beginnen, auf Facebook und Instagram mit Hilfe von KI erstellte Inhalte zu kennzeichnen, wie der Tech-Riese angekündigt hat. Bislang hatte das Unternehmen eine Politik, solche computergenerierten Inhalte zu löschen.

Das Unternehmen wird Fotos, Audio- oder Videoinhalte, die mit Hilfe von Künstlicher Intelligenz erstellt wurden, mit dem Hinweis “Mit KI erstellt” kennzeichnen, wie es in einem Blogbeitrag am Freitag erklärte. Diese Kennzeichnungen werden entweder automatisch angebracht, wenn Meta “branchenübliche Signale” für KI-Inhalte erkennt, oder wenn Nutzer:innen freiwillig angeben, dass etwas, das sie posten, mit KI erstellt wurde.

Wenn der Inhalt in Frage ein “besonders hohes Risiko” birgt, “die Öffentlichkeit in einer wichtigen Angelegenheit in die Irre zu führen”, kann eine prominenter platzierte Kennzeichnung angebracht werden, wie Meta erklärte.

Derzeit deckt die Politik von Meta zu “manipulierten Medien” nur Videos ab, die “mit KI so verändert wurden, dass eine Person etwas zu sagen scheint, was sie nicht gesagt hat.” Solche Inhalte, die gegen diese Richtlinie verstoßen, werden entfernt anstatt gekennzeichnet.

Die neue Richtlinie dehnt diesen Anwendungsbereich auf Videos aus, die jemanden “etwas tun zeigen, was er nicht getan hat”, sowie auf Fotos und Audio. Allerdings ist sie weniger streng als der alte Ansatz, da der fragliche Inhalt nun online bleiben darf.

Die neue Richtlinie dehnt diesen Anwendungsbereich auf Videos aus, die jemanden “etwas tun zeigen, was er nicht getan hat”, sowie auf Fotos und Audio. Allerdings ist sie weniger streng als der alte Ansatz, da der fragliche Inhalt nun online bleiben darf.

“Unsere Richtlinie zu manipulierten Medien wurde 2020 geschrieben, als realistische KI-generierte Inhalte selten waren und die überwiegende Sorge Videos betraf”, erklärte das Unternehmen. “In den letzten vier Jahren, insbesondere im letzten Jahr, haben Menschen andere Arten realistischer KI-generierter Inhalte wie Audio und Fotos entwickelt, und diese Technologie entwickelt sich schnell weiter.”

Seit Anfang dieses Jahres haben US-Regulierungsbehörden eine Verordnung zu KI-generierten “Roboanrufen” angekündigt, nachdem Einwohner von New Hampshire von einem computergenerierten Joe Biden kontaktiert wurden, der sie aufforderte, sich aus den demokratischen Vorwahlen des Bundesstaates herauszuhalten, während das Weiße Haus versprach, das Problem nicht einvernehmlicher Nacktaufnahmen anzugehen, nachdem gefälschte Nacktaufnahmen des Popstars Taylor Swift in sozialen Medien aufgetaucht waren. Der ehemalige US-Präsident Donald Trump hat sich auch zu dem Thema geäußert und US-Medien vorgeworfen, ihn mit Hilfe von KI in Fotos dicker erscheinen zu lassen.

Meta ist nicht der einzige große Technologiekonzern, der künstliche Inhalte mit Kennzeichnungen bekämpft. Seit letztem Jahr fordert TikTok Nutzer:innen auf, ihren eigenen KI-generierten Inhalt zu kennzeichnen, während anderen Nutzer:innen die Möglichkeit gegeben wird, Inhalte zu melden, bei denen sie vermuten, dass sie KI-generiert sind. YouTube führte im letzten Monat ein ähnliches System auf Basis von Vertrauen ein.

Angesichts wichtiger Wahlen in der EU im Juni und in den USA im November haben Gesetzgeber:innen Technologieunternehmen aufgefordert, Maßnahmen gegen sogenannte “Deepfakes” zu ergreifen, die ihrer Ansicht nach zur Täuschung von Wähler:innen genutzt werden könnten. Anfang dieses Jahres schlossen sich Microsoft, Meta und Google zusammen mit mehr als einem Dutzend weiterer Branchenführer einem Versprechen an, “dabei zu helfen, dass täuschende KI-Inhalte die Wahlen in diesem Jahr weltweit nicht beeinflussen.”

Plattformen wie TikTok und YouTube, die Systeme auf Basis von Vertrauen einsetzen, könnten jedoch bald gezwungen sein, den Ansatz von Meta zu übernehmen. Gemäß einer Bestimmung des KI-Gesetzes der EU, das nächsten Sommer in Kraft tritt, werden Technologieunternehmen bei Nicht-Erkennung und -Kennzeichnung KI-generierter Inhalte, einschließlich Texten “die der Öffentlichkeit mit dem Ziel informieren, über Angelegenheiten von öffentlichem Interesse zu berichten”, mit Geldstrafen belegt.