Probleme mit Zwillingen seien „völlig inakzeptabel“, sagte CEO Sundar Pichai
Einige der von Googles künstlicher Intelligenz Gemini generierten Antworten seien „problematisch“ und hätten „Voreingenommenheit gezeigt“, sagte CEO Sundar Pichai am Mittwoch in einer unternehmensweiten E-Mail und versprach, das Problem anzugehen.
Pichais E-Mail gelangte an mehrere Medien, darunter Semafor und Piratendrähtedie es vollständig veröffentlichte.
„Ich möchte die jüngsten Probleme mit problematischen Text- und Bildantworten in der Gemini-App (ehemals Bard) angehen“, schrieb Pichai. „Ich weiß, dass einige seiner Antworten unsere Nutzer beleidigt und voreingenommen gezeigt haben – um es klarzustellen: Das ist völlig inakzeptabel und wir haben uns geirrt.“
Das Unternehmen arbeite „rund um die Uhr daran, diese Probleme anzugehen“, fügte er hinzu.
„Unsere Mission, die Informationen der Welt zu organisieren und sie allgemein zugänglich und nutzbar zu machen, ist unantastbar“, fuhr Pichai fort. „Wir haben immer versucht, den Benutzern mit unseren Produkten hilfreiche, genaue und unvoreingenommene Informationen zu bieten. Deshalb vertrauen ihnen die Menschen.“ Dies müsse auch bei der KI der Fall sein, fügte er hinzu.
Gemini startete Anfang dieses Monats, stieß jedoch schnell auf Probleme mit restriktiver „Sicherheits“- und „Vielfalt“-Programmierung. Die KI wurde weithin wegen „Ungenauigkeiten“ bei der Darstellung einer Reihe historischer Charaktere kritisiert, von den Gründervätern der USA und russischen Kaisern bis hin zu katholischen Päpsten und sogar deutschen Nazi-Soldaten.
Gemini antwortete auf alle Anfragen nach Bildern von Weißen mit der Aussage, dass dies „schädliche Stereotypen und Verallgemeinerungen über Menschen aufgrund ihrer Rasse verstärkt“. Laut einer Untersuchung von Fox Business verkörperten solche Bilder „eine stereotype Sichtweise des Weißseins“, die für die Gesellschaft als Ganzes und für Menschen, die nicht weiß sind, „schädigend“ sein kann, fügte die KI hinzu.
Was Pichais Behauptungen über die Heiligkeit der Genauigkeit angeht, hat Google schon lange darauf Rücksicht genommen zensiert Und unterdrückt Inhalte, die ihre Führungskräfte missbilligten, angeblich im Namen der Bekämpfung von „Fehlinformationen“ und der Verbesserung der Gesellschaft.
Einige Kritiker aus dem Silicon Valley haben bereits angedeutet, dass Pichais E-Mail nicht für den internen Gebrauch, sondern für die Veröffentlichung bestimmt war. Substack-Kolumnistin Lulu Cheng Meservey notiert dass es „überall verstreute Marketing-Slogans“ sowie „Wortsuppe enthielt, die vermutlich darauf abzielte, den Leser zu müde und zu verwirrt zu machen, um noch wütender zu sein.“
Meservey kritisierte auch Pichais Verwendung des Begriffs „problematisch“ und warf dem Google-CEO vor, das Problem mit Gemini grundlegend missverstanden zu haben.
„Die Konzentration von Google darauf, Menschen nicht zu beleidigen, statt auf sachliche Genauigkeit, war die Ursache des Problems“, schrieb sie.
Unter Berufung auf Insiderquellen bei Google, Mike Solana von PirateWires empfohlen dass Marketing- und KI-Produktmanager glauben, dass die Kontroverse über Geminis offensichtlichen Rassismus „weitgehend von rechten Trollen“ auf X (ehemals Twitter) erfunden wurde.