Google: AI labelt Personen auf Bildern nicht mehr als „männlich“ oder „weiblich“

Googles Cloud Vision API mit integrierter Artificial Interlligence (AI) für Entwickler erkennt Objekte, Logos und auch Menschen auf einem Bild und gibt diesen bestimmte Labels. Google sendete am Donnerstag eine E-Mail an die Developer, in der der Suchmaschinenkonzern erklärt, dass  Personen auf einem Bild nicht länger als männlich oder weiblich benannt werden. Der Grund: Laut Google lasse das Aussehen einer Person nicht auf das Geschlecht schließen. Daher werden Menschen zukünftig nur noch als Person bezeichnet.

Got an email from Google saying Cloud Vision API will not return gendered labels such as ‚man‘ and ‚woman‘ after February 19, 2020. pic.twitter.com/9XjdgQQwNe

— Sriram Sharma (@SriramVSharma) February 20, 2020

Keine Geschlechtszuordnung mehr bei Googles AI: Erster Schritt in die richtige Richtung? 

Bilder durch eine AI erkennen und kategorisieren zu lassen, hat für Google in der Vergangenheit bereits einige Skandale mit sich gebracht. So bemerkte zum Beispiel 2015 ein Software-Entwickler, dass Googles Tool seine dunkelhäutigen Freunde als Gorillas identifizierte. Google versprach daraufhin, das Problem zu beheben. Allerdings fand das Online-Magazin Wired 2018 heraus, dass lediglich Gorillas als Kategorie aus der AI entfernt wurden. Auch intern gab es immer wieder Probleme im Zusammenhang mit der AI. Als Reaktion veröffentlichte Google 2018 Richtlinien zur Arbeit mit AI. Zuvor hatten Mitarbeitende gegen die Zusammenarbeit von Google und dem Pentagon demonstriert. Diese könnte dazu führen, dass die automatische Erkennung von Objekten oder Personen für die Waffenentwicklung eingesetzt wird.

Die Entfernung der Label „männlich“ und „weiblich“ könnte ein Schritt in die richtige Richtung sein, um Benachteiligung auf Grund von Ethnie und Geschlecht aus Googles AI zu verbannen.

Googels AI labelt nicht mehr nach Geschlechtern