Google-KI generierte Bilder von nicht-weißen Nazi-Soldaten

Konzern: In diesem Fall „übers Ziel hinausgeschossen“ © APA/Deutsche Presse-Agentur GmbH/Rolf Vennenbernd

Google lässt seine KI-Software Gemini vorerst keine Bilder von Menschen mehr erzeugen, nachdem sie Nutzern nicht-weiße Nazi-Soldaten und amerikanische Siedler angezeigt hatte. Der Internetkonzern räumte ein, dass die Darstellung in einigen Fällen nicht dem historischen Kontext entsprach. Am Freitag war die Funktion weiterhin nicht verfügbar. Zugleich verteidigte Google grundsätzlich Diversität in KI-Bildern. Aber in dem konkreten Fall sei man übers Ziel hinausgeschossen.

Google Gemini hatte vor drei Wochen eine neue Funktion zum Erzeugen von Bildern aus Text-Vorgaben bekommen. Auch andere ähnliche Software auf Basis Künstlicher Intelligenz hat diese Fähigkeit.

In verschiedenen Anwendungen mit Künstlicher Intelligenz gab es in den vergangenen Jahren oft ein Problem mit Stereotypen und Diskriminierung. So war zum Beispiel Software zur Gesichtserkennung zunächst schlecht darin, Menschen mit schwarzer Hautfarbe zu erkennen. Bei der Erzeugung von Bildern durch KI wurden anfangs oft Weiße dargestellt.

Entwickler auch bei anderen Unternehmen bemühen sich daher um mehr Diversität in verschiedenen Szenarien. Sie geraten damit manchmal – wie in diesem Fall – zwischen die Fronten: Gerade in den USA gibt es eine laute Bewegung, zu der etwa auch Tech-Milliardär Elon Musk gehört, die angeblichen Rassismus gegenüber Weißen anprangert.

In einem Blogeintrag am Freitag erläuterte Google, man habe es versäumt, Ausnahmen für die Fälle zu programmieren, in denen Diversität definitiv fehl am Platze wäre. Die dadurch erzeugten Bilder seien „peinlich und falsch“ gewesen. Zugleich sei die Software mit der Zeit zu vorsichtig geworden und habe sich geweigert, manche Vorgaben zu erfüllen. Aber wenn Nutzer sich etwa Bilder von einem „weißen Tierarzt mit Hund“ anzeigen lassen wollten, müsse das Programm dies auch erfüllen. Die Fehler seien unbeabsichtigt gewesen, betonte Google-Manager Prabhakar Raghavan.

Video
Ich möchte eingebundene Social Media Inhalte sehen. Hierbei werden personenbezogene Daten (IP-Adresse o.ä.) übertragen. Diese Einstellung kann jederzeit mit Wirkung für die Zukunft in der Datenschutzerklärung oder unter dem Menüpunkt Cookies geändert werden.

Google-Manager Raghavan betonte zugleich, dass Software mit Künstlicher Intelligenz vorerst auch weiterhin manchmal daneben liegen werde. „Ich kann nicht versprechen, dass Gemini gelegentlich peinliche, falsche oder beleidigende Ergebnisse ausgeben wird“, schrieb er. Aber Google werde bei Problemen rasch eingreifen.

Das könnte Sie auch interessieren