Instagram begräbt Hate Speech einfach weiter unten im Feed

Hate Speech ist ein Thema, das alle Social-Media-Plattformen stark beschäftigt. Leider hat noch keines der sozialen Netzwerke die ideale Lösung gefunden. Auf unserer Seite finden sich zahllose Artikel zu neuen Maßnahmen, Transparenz-Reports und verschärften Richtlinien bei Facebook, YouTube, TikTok und Co. Doch das Problem besteht weiter und alle Plattformen haben trotz ihrer Maßnahmen eindeutig Schwierigkeiten damit, wirklich gegen Hate Speech und Mobbing auf ihrer Seite vorzugehen. Instagram wählt jetzt einen neuen Ansatz.

Keep on scrolling: Instagram versteckt schädliche Posts „unten“ im Feed

At Instagram, we’re always trying to show you content from the accounts you engage with and have the most value to you, while minimizing the likelihood that you come across content that could be upsetting or make you feel unsafe,

erklärt das Unternehmen in einem Blogpost. Ab sofort sollen erneut verstärkte Maßnahmen ergriffen werden. Instagram, so wird im Blogpost bekanntgegeben, zeigt Posts, die Mobbing oder Hate Speech enthalten oder Gewalt anregen könnten, einfach weiter unten im Feed an. Auch Stories, die potentiell diese Inhalte enthalten, werden weiter hinten angezeigt. Dafür soll der Algorithmus sorgen, der für jeden User bestimmt, was diesen wohl am meisten interessiert und die Posts danach rankt. Der Algorithmus wird ab sofort zum Beispiel Posts mit einer Caption, die ähnlich ist wie Captions, die zuvor gegen die Richtlinien der App verstoßen haben, schlechter ranken. Das heißt, User müssen weiter scrollen, um zu den potentiell schädlichen Inhalten zu kommen. Im Blogpost heißt es dazu:

If our systems detect that a post may contain bullying, hate speech or may incite violence, we’ll show it lower on Feeds and Stories of that person’s followers. To understand if something may break our rules, we’ll look at things like if a caption is similar to a caption that previously broke our rules,

Des eigenen Glückes Schmied: Wer viel meldet, gibt dem Algorithmus mehr Signale

Ein Zeichen, das Instagram dabei auch berücksichtigt, ist, ob User bereits Content gemeldet haben und welcher Art dieser war. Zu den Signalen, die Instagram auswertet, um zu bestimmen, wie wahrscheinlich es ist, dass eine Person mit einem Post interagiert, wird eines hinzugefügt. Die App ergänzt nun auch die Wahrscheinlichkeit, mit der User einen Post melden. So erklärt Instagram:

If our systems predict you’re likely to report a post based on your history of reporting content, we will show the post lower in your Feed.

Das heißt, wer viele Posts, die im eigenen Feed angezeigt werden, meldet, wird ähnliche in Zukunft erst nach einiger Scroll-Arbeit zu sehen bekommen. Natürlich hält Instagram damit die Feeds der User freier von potentiell schädlichen Posts. Doch das Problem an der Wurzel zu packen, müsste anders aussehen. Schließlich geht das Update weder gegen die Accounts vor, die diese Inhalte posten, noch unternimmt es etwas, um diese zu bewerten und zu löschen. Stattdessen begräbt der Algorithmus sie unter zahllosen Posts von Influencern und Bekannten. Ob das Unternehmen weitere Maßnahmen ergreift, sobald alle User auf den chronologischen Feed zugreifen können, bleibt abzuwarten. Schließlich würde dann nicht mehr der Algorithmus, sondern der Posting-Zeitpunkt die Reihenfolge im Feed bestimmen.