Wütender Emoji mehr wert als ein Like: So förderte Facebook die Verbreitung schädlicher Inhalte

Bereits vor fünf Jahren hat Facebook den regulären „Gefällt Mir“-Button um fünf weitere mögliche Reaktionen ergänzt. Die Symbole „Love“, „Haha“, „Wow“, „traurig“ und „wütend“ sollten den Facebook Usern die Möglichkeit geben, ihre Meinung und Emotionen zu einem Post klarer auszudrücken. Was den wenigsten dabei bewusst gewesen sein dürfte: Hinter den Kulissen programmierte Facebook den Algorithmus dazu, Posts mit vielen Emoji-Reaktionen zu bevorzugen. Die neuen Buttons wurden demnach fünffach stärker gewichtet als die altbekannte „Gefällt Mir“-Reaktion. Dies geht aus internen Dokumenten hervor, die der Washington Post vorliegen.

Der Hintergrund: Je mehr User emotionalen und provokativen Content zu sehen bekamen, mit desto mehr Engagement konnte die Plattform rechnen. Die Emojis, zu denen auch die Reaktionen „traurig“ und „wütend“ gehörten, dienten dem Algorithmus als Kennzeichnung für jene Inhalte.

Provokative Posts wurden bevorzugt

Das Problem bei der Bevorzugung der Emoji-Reaktionen lag darin, dass hierdurch auch mehr kontroverse Posts sowie Spam und Clickbait an die User gebracht werden könnten. Diese Sorge, die Mitarbeiter:innen bereits 2017 äußerten, bestätigte sich: Facebooks Datenwissenschaftler:innen fanden 2019 heraus, dass Inhalte, die die Emoji-Reaktion „wütend“ auslösten, überdurchschnittlich oft Fehlinformationen, toxische Inhalte und Nachrichten von schlechter Qualität enthielten.

Mehrere Mitarbeiter:innen schlugen vor, die „Wütend“-Reaktion geringer zu bewerten als die anderen Emojis. Doch der Vorschlag wurde mehrfach abgelehnt. Erst im vergangenen Jahr entschied sich Facebook dazu, allen Emojs den 1,5-fachen Wert der Likes zu geben. Kurz darauf wurde der Wert des wütenden Emojis endlich auf Null gesetzt.

Facebook gegen Facebook

Es klingt wie ein schlechter Scherz: Während sich Facebooks Content-Moderator:innen bemühten, die Verbreitung von Fehlinformationen und anderen schädlichen Inhalten einzudämmen, zog der Algorithmus jahrelang ebensolche Inhalte harmlosem Content vor. Die Facebook-Sprecherin Dani Lever kommentierte die Situation wie folgt:

We continue to work to understand what content creates negative experiences, so we can reduce its distribution. This includes content that has a disproportionate amount of angry reactions, for example.

Zwar ist zu begrüßen, dass Facebook die schädlichen Auswirkungen der Verbreitung von Posts mit vielen wütenden Reaktionen erkannt hat. Dennoch bleibt fraglich, wieso die Plattform trotz der Bedenken ihrer Mitarbeiter:innen so lange untätig blieb.