Facebook-Mitarbeiter kritisieren: Schwarze User werden häufiger vom Instagram-Algorithmus gesperrt

Facebook stellte 2019 ein internes Team zusammen, das den möglicherweise rassistischen Bias des Instagram-Algorithmus untersuchen sollte. Nun berichtete das News-Portal NBC, dass diese Analysen nach kurzer Zeit wieder eingestellt wurden. NBC zufolge verhängte Facebook den Stopp, nachdem klar wurde, dass das Instagram-Moderations-Tool überproportional viele Accounts von People of Colour (PoC) benachteiligt. Ehemalige und aktuelle Angestellte berichteten, dass das im vergangen Jahr implementierte Tool zur automatischen Moderation des Contents 50 Prozent häufiger Schwarze User von der Plattform verbannt als Weiße. Laut NBC-Bericht sollen die Mitarbeitenden dies ihren Vorgesetzten mitgeteilt haben. Diese ordneten daraufhin an, die Untersuchungen zu stoppen. Facebook soll später ein leicht abgeändertes System für die Content-Moderation eingeführt haben. Ob diesem eine rassistische Bias zugrunde liegt, wurde allerdings nicht weiter analysiert.

Facebook reagiert: Angestellte arbeiteten methodisch nicht korrekt

Facebook reagierte auf den Bericht von NBC. Der Social-Media-Kanal bestritt nicht, dass die Untersuchungen eingestellt wurden. Allerdings sei dies nicht geschehen, weil sie einen blinden Fleck des Algorithmus entdeckt hätten, sondern weil die zur Analyse angewandte Methode falsch gewesen sein soll. Erst kürzlich verkündete Facebook, ein weiteres internes Team zur Untersuchung einer möglichen rassistischen Bias des Algorithmus zusammenzustellen. Facebook betonte, dass es versuche, die eigenen Produkte möglichst fair allen Menschen gegenüber zu gestalten. Facebook-Sprecherin Carolyn Glanville sagte:

We are actively investigating how to measure and analyze internet products along race and ethnic lines responsibly and in partnership with other companies.

Der Bericht der NBC kommt Facebook denkbar ungelegen. Denn der Konzern wird momentan bereits öffentlich für seinen Umgang mit Hate Speech kritisiert. Die #StopHateForProfit-Kampagne, an der sich große Unternehmen wie Coca-Cola und Disney beteiligten, sorgte bei dem sozialen Netzwerk nicht nur für finanzielle Einbußen, sondern verursachte auch einen erheblichen Image-Schaden.

Jetzt kostenlos herunterladen

Mehr Diversität? Ein Großteil der Facebook-Angestellten ist immer noch weiß und männlich

Facebook kündigte an, künftig mehr Diversität unter den eigenen Mitarbeitenden fördern zu wollen. Vergangenen Monat veröffentlichte das Unternehmen einen Diversity Report, der zeigt, dass Facebook die ersten Schritte in die richtige Richtung bereits gemacht hat. Trotzdem ist ein Großteil der Angestellten immer noch weiß und männlich. Mitarbeitende kritisierten Facebook bereits für diesen Umstand. Gegenüber NBC sagte ein Angestellter:

I’ve seen people be driven insane as leadership ignores them or outright shuts them down and commits us, again and again, to doubling down on this same path.

Es hat also den Anschein als müsste Facebook nicht nur die Algorithmen nach rassistischen Mustern durchsuchen, sondern auch die Firmenkultur.