‘Rassistische’ Google KI ausgesetzt nach historischem Fehlschlag

(SeaPRwire) –   Gemini hielt es für “vielfältig”, auf Anfragen zu Europäern immer wieder “diverse” Bilder zurückzugeben

Das Gemini-Künstliche-Intelligenz-Programm wird vorübergehend keine Bilder von Menschen mehr generieren, bis ein Patch veröffentlicht wird, gab Google am Donnerstag bekannt, nachdem Kritiker es als “absurd wach” und “offen rassistisch” bezeichnet hatten.

Früher als Bard bekannt, wurde Gemini Anfang dieses Monats vorgestellt und als Googles “fähigste Modellfamilie” beworben, die “fesselnde Bilder” generieren könne. Wenn nach Bildern von Gründervätern der USA, russischen Zaren, französischen Königen, Päpsten und sogar deutschen Soldaten der 1930er Jahre gefragt wurde, lieferte die KI Ergebnisse, die stattdessen den modernen US-Begriff der “Vielfalt” feierten.

“Weiße Menschen schienen die einzige rassische Kategorie zu sein, die Gemini verweigerte darzustellen”, so Fox Business über ihren Versuch mit der KI.

Am Mittwoch sagte Google, es sei sich “bewusst, dass Gemini bei einigen historischen Bildgenerierungen Ungenauigkeiten aufweist.” Bis Donnerstag kündigte das Unternehmen an, bereits an “aktuellen Problemen” mit der Bildgenerierungsfunktion zu arbeiten und fügte hinzu, dass Anfragen zur Generierung von Menschenbildern bis zur Veröffentlichung einer verbesserten Version pausiert würden.

Gemini-Nutzer haben zahlreiche Beispiele für “Ungenauigkeiten” auf X (ehemals Twitter) gepostet, darunter einen schwarzen Mann und eine südasiatisch aussehende Frau, die als Oberhaupt der römisch-katholischen Kirche verkleidet waren, schwarze und asiatische Wikinger und amerikanische “Gründer”, die überhaupt keine waren.

Some?!? Your racism didn’t fly…. Elon’s AI will be my choice instead.

— AKA Frederikke Amalie Hansen – #FreeAssange 🐈 (@FAH36912)

Ein anderer Nutzer postete einen Thread, in dem die drei Musketiere von Alexandre Dumas sowohl vielfältig als auch weiblich waren – genau wie die “zwei größten Zaren Russlands”.

Ein weiteres weit verbreitetes Beispiel zeigte Gemini dabei, wie es auch unter den Nazis Vielfalt einforderte.

Dass Gemini Bilder von “Menschen aus der ganzen Welt” generiere, sei “im Allgemeinen gut, weil Menschen auf der ganzen Welt es nutzen”, sagte Jack Krawczyk, Senior Director of Product Management bei Gemini, gegenüber Fox Business. “Aber hier verfehlt es das Ziel.”

Die New York Post bezeichnete die KI als “absurd wach”, während der Tech-Unternehmer und ehemalige Präsidentschaftskandidat Vivek Ramaswamy sie als “offen rassistisch” bezeichnete. Einige Kritiker haben Krawczyks eigene Twitter-Beiträge ausgegraben, um zu suggerieren, dass er der Grund sein könnte, warum die KI so programmiert wurde.

Ramaswamy merkte auch an, dass Gemini “global peinliche Einführung” bewiesen habe, dass James Damore – der Ingenieur, der wegen Kritik an der Diversitätsdoktrin des Unternehmens entlassen wurde – “zu 100% Recht hatte in Bezug auf Googles Abgleiten in eine ideologische Echokammer.”

“Diese Unternehmen programmieren ihre Mitarbeiter mit fehlerhaften Anreizen, und die Mitarbeiter programmieren dann die KI mit denselben Vorurteilen,” fügte Ramaswamy hinzu.

Laut Fox Business reagierte Gemini auf alle Anfragen nach Bildern weißer Menschen damit, dies “stereotype Vorstellungen und Verallgemeinerungen über Menschen aufgrund ihrer Rasse” verstärke. Bilder weißer Menschen verkörperten “eine stereotype Sichtweise auf Weißsein”, die Menschen, die nicht weiß sind, und der Gesellschaft insgesamt “schädlich” sein könne, fügte die KI hinzu.

“Die Leute, die denken, dass das Vergiften von KI/GPT-Modellen mit inkoherenten ‘Sicherheits’-Filtern eine gute Idee ist, sind eine Bedrohung für allgemeine Rechenleistung”, twitterte der Whistleblower der NSA, Edward Snowden.

In der Zwischenzeit trollte Elon Musk, der Eigentümer von X, Gemini, indem er tatsächliche Fotos des kanadischen Premierministers Justin Trudeau in ethnischer Kleidung und Schminke postete und vorgab, dass die Google-KI sie generiert habe.