Vorwürfe bestätigt – Facebooks Targeting bei Housing und Job Ads ist diskriminierend

Wir berichteten bereits über die Veränderungen in Facebooks Targeting auf Grund von Diskriminierungsvorwürfen und die darauffolgende Klage. Eine anschließend durchgeführte Studie, die im Preprint Server Arxiv veröffentlicht wurde, aber noch auf Freigabe wartet, bestätigt laut Reuters jetzt die Vorwürfe. Facebooks Algorithmus scheint sich an Stereotypen zu orientieren und Anzeigen basierend darauf zu schalten – selbst wenn Werbetreibende versuchen, ein breiteres Publikum zu erreichen.

Die Forscher schalteten eigene Anzeigen

In der Studie, die von Forschern der Northeastern University, der University of Southern California und der Non-Profit Organisation Upturn durchgeführt wurde, ging es darum herauszufinden, ob Facebook nicht nur diskriminierendes Targeting im Bereich Housing und bei Jobanzeigen zulässt, sondern der Algorithmus vielmehr selbst Entscheidungen hinsichtlich der vermeintlich angemessenen Zielgruppe trifft. Zur Überprüfung dieser Vermutung wurden Dutzende Anzeigenkampagnen über die Plattform geführt, die mit Hunderten Anzeigen Millionen Menschen erreichten. Die Forscher gaben 8.500 US-Dollar für die Studie aus. Indem sie blanke Anzeigen ohne Überschrift oder Bild schalteten und nach und nach einzelne Elemente veränderten, konnten sie herausfinden, welche Veränderung sich auf die Zielgruppe auswirkte.

Die Ergebnisse sind erstaunlich:

Our research demonstrates that ad platforms like Facebook can deliver ads to audiences skewed by race and gender even when advertisers target large, inclusive audiences.

Diese Erkenntnis veranlasste die Forscher zu dem Fazit, dass nicht nur die Targetingentscheidungen der Werbetreibenden genau unter die Lupe genommen werden müssen, vielmehr sollte auch vermehrt darauf geachtet werden, was die Plattform nach eigenem Ermessen entscheidet.

 Du willst deine Ad Performance auf Facebook – oder   Instagram – prüfen und dann steigern? Dann lass jetzt eine Analyse durchführen und optimiere dein Umsatzpotential in den populären Social Media. Melde dich zum Facebook/Instagram Ads Check der Experten an! 

Jetzt anmelden!

Aus den diskriminierenden Anzeigen ergeben sich reale Konsequenzen für die Nutzer

Die Erkenntnis, dass nach einem eingefügten Bild von beispielsweise Makeup-Pinseln, die vorher geschlechtlich relativ gleich aufgestellte Zielgruppe plötzlich bei 90 Prozent weiblichen Nutzern lag, mag vielleicht das System verdeutlichen, uns aber noch nicht wirklich überraschen. Erschreckend ist vielmehr, dass sich gerade bei der Job- oder Häusersuche reale Konsequenzen für die Interessenten ergeben. “Our ads for cashier positions in supermarkets reach an 85% female audience, and our ads for positions in taxi companies reach a 75% Black audience”, schrieben die Forscher. Auch in anderen Jobbereichen war dies zu beobachten. Immobilienanzeigen, die für ein breites Publikum geschaltet waren, erreichten zu 75 Prozent weiße Nutzer, Mietobjekte waren für eine ausgewogenere Gruppe sichtbar.

Einige Anzeigen werden gar nicht geschaltet

Die Forscher nahmen an, dass verschiedene Faktoren dafür verantwortlich sein könnten, welche Zielgruppe Facebooks Algorithmus letztlich anspricht. So z.B. die Bilder und Überschriften, die in der Anzeige genutzt werden und auch die Summe, die ein Werbetreibender für die Anzeige gezahlt hat.

Das System ist darauf ausgelegt, Anzeigen an die Nutzer auszuspielen, bei denen der Algorithmus es für wahrscheinlich hält, dass sie mit ihr interagieren. Wird nun also eine Anzeige speziell an eine Minderheit gerichtet, deren Interaktionswahrscheinlichkeit aber als gering eingestuft, kann es passieren, dass die Anzeige gar nicht geschaltet wird.

Diskriminierung in Digital Advertising bleibt ein relevantes Thema

Erneut wurde durch die Studie die Problematik aufgeworfen, dass die meisten Menschen vor undurchsichtigen Algorithmen wie vor einer Blackbox stehen und nicht mehr wirklich erklärt werden kann, auf Grund welcher Informationen was ausgespielt wird. Joe Osborne, als einer der Sprecher von Facebook, erklärte nach Veröffentlichung der Studie:

We stand against discrimination in any form. We’ve announced important changes to our ad targeting tools and know that this is only a first step. We’ve been looking at our ad delivery system and have engaged industry leaders, academics, and civil rights experts on this very topic – and we’re exploring more changes.

Wie genau die weiteren Schritte aussehen werden, auch um sich vor weiteren Klagen zu schützen, bleibt abzuwarten. Selbstverständlich wollen Advertiser mit ihren Anzeigen spezifische Zielgruppen erreichen, während dies in gewissen Bereichen absolut legitim ist, ist es bei Job oder Hausangeboten politisch inkorrekt, bzw. in den USA im Falle von Housing sogar verboten. Und während bereits erste Schritte unternommen wurden, ist Fakt, dass Facebook noch mehr an dem eigenen Programm verändern muss, um weitere Fehltritte zu vermeiden.