Google reagiert auf Vorwürfe eines “rassistischen” KI

(SeaPRwire) –   Probleme mit Gemini sind “vollkommen inakzeptabel”, sagt CEO Sundar Pichai

Einige der von Googles Künstlicher Intelligenz Gemini generierten Antworten waren “problematisch” und haben “Vorurteile gezeigt”, sagte CEO Sundar Pichai in einer unternehmensweiten E-Mail am Mittwoch und versprach, das Problem anzugehen.

Pichais E-Mail fand den Weg zu mehreren Medien, darunter Semafor und , die sie vollständig veröffentlichten.

“Ich möchte die jüngsten Probleme mit problematischen Text- und Bildantworten in der Gemini-App (früher Bard) ansprechen”, schrieb Pichai. “Ich weiß, dass einige ihrer Antworten unsere Nutzer verärgert und Vorurteile gezeigt haben – um es klar zu sagen, das ist vollkommen inakzeptabel und wir haben uns geirrt.”

Das Unternehmen arbeitet “rund um die Uhr daran, diese Probleme zu beheben”, fügte er hinzu.

“Unsere Mission, die Informationen der Welt zu organisieren und für alle universell zugänglich und nützlich zu machen, ist heilig”, fuhr Pichai fort. “Wir haben immer danach gestrebt, unseren Nutzern in unseren Produkten hilfreiche, genaue und unvoreingenommene Informationen zu geben. Deshalb vertrauen sie ihnen.” Dies muss auch für die KI gelten, fügte er hinzu.

Gemini wurde Anfang dieses Monats eingeführt, stieß aber schnell auf Probleme mit restriktiver “Sicherheits”- und “Diversitäts”-Programmierung. Die KI wurde weithin kritisiert für “Ungenauigkeiten” bei der Darstellung einer Reihe historischer Persönlichkeiten, von den Gründervätern der USA und russischen Zaren bis hin zu katholischen Päpsten und sogar deutschen Nazi-Soldaten.

Gemini antwortete auf alle Anfragen nach Bildern von Weißen, dass dies “schädliche Stereotypen und Verallgemeinerungen über Menschen aufgrund ihrer Rasse verstärkt”. Solche Bilder verkörperten “ein stereotypisiertes Bild von Weißsein”, das für die Gesellschaft insgesamt und für Menschen, die nicht weiß sind, “schädlich” sein könne, fügte die KI hinzu, wie eine Untersuchung von Fox Business ergab.

In Bezug auf Pichais Behauptungen über die Heiligkeit der Genauigkeit hat Google lange Inhalte zensiert und Inhalte seiner Führungskräfte missbilligt, angeblich im Namen der Bekämpfung von “Falschinformationen” und der Verbesserung der Gesellschaft.

Einige Silicon-Valley-Kritiker haben bereits angedeutet, dass Pichais E-Mail nicht für den internen Gebrauch bestimmt war, sondern zur Veröffentlichung gedacht war. Die Substack-Kolumnistin Lulu Cheng Meservey kommentierte, dass sie “Marketing-Schlagzeilen enthielt, die hier und da eingestreut waren”, sowie “Wortsalat, der den Leser offensichtlich zu müde und verwirrt machen sollte, um noch wütend zu sein.”

Meservey kritisierte auch Pichais Verwendung des Begriffs “problematisch” und warf dem Google-CEO vor, das grundlegende Problem mit Gemini völlig zu missverstehen.

“Dass Google sich mehr auf das Nicht-Beleidigen von Menschen als auf faktische Genauigkeit konzentrierte, war der eigentliche Auslöser des Problems”, schrieb sie.

Unter Berufung auf Insider bei Google berichtete Mike Solana von PirateWires, dass Marketing- und KI-Produktmanager glauben, die Kontroverse über den angeblichen Rassismus von Gemini sei “größtenteils von rechten Trollen” auf X (ehemals Twitter) “erfunden” worden.