Gravierender Fehler in Moderations-KI: TikTok markiert „Black Lives Matter“ als problematisch

Soziale Plattformen haben es nicht leicht, zu überwachen, was für Content von ihren Usern geteilt wird. Seit Jahren kämpfen sie gegen Hate Speech, Fake News etc. Dabei kommen menschliche Moderator:innen sowie KI zum Einsatz, die jedoch beide alles andere als fehlerlos arbeiten. Immer wieder zeigen sich Fälle in beide Extreme: Auf der einen Seite wird Content auf der Seite gelassen, der dort eindeutig nicht verfügbar sein sollte, auf der anderen wird Content unrechtmäßig geblockt. Von letzterem kann auch Content Creator Ziggi Tyler ein Lied singen. Er zeigt auf seinem TikTok-Kanal, wie TikToks Content-Moderation-Algorithmus das Wort „Black“ grundsätzlich sperrte.

Vor wenigen Tagen entschied Tyler sich dazu, seinen Support für die Black Community öffentlich in seinem Creator-Profil anzuzeigen. Zu diesem Zweck bearbeitete er sein Profil auf dem TikTok Marketplace, über den Unternehmen geeignete Influencer für die Zusammenarbeit finden können. Als er versuchte Phrasen wie „Black Lives Matter“ oder „Black support“ einzufügen, musste er feststellen, dass TikTok diese als „inappropriate“ einstufte und nicht veröffentlichte. In einem TikTok zeigt er, wie alle seine Versuche, die das Wort „Black“ beinhalteten, gesperrt wurde, „white“ hingegen ging in allen Fällen durch – auch bei Phrasen wie „white supremacy“.

Moderation – mangelhaft

TikTok reagierte laut Forbes bereits auf Tylers Vorwürfe und erklärte, dass Tylers Profil so eingestuft wurde, da es auch das Wort „audience“ beinhaltete. Der KI war beigebracht worden, alle Profile, die das Wort „die“ beinhalteten, zu markieren. „Black“ und „Black Lives Matter“ hingegen könnte auch als Hate Speech vorkommen und wäre deswegen auch von der KI geflaggt worden. Das Presseteam erklärt Forbes gegenüber:

Our TikTok Creator Marketplace protections, which flag phrases typically associated with hate speech, were erroneously set to flag phrases without respect to word order. We recognize and apologize for how frustrating this was to experience.

Dass dieser Ansatz deutliche Mängel aufweist, dürfte klar sein. TikTok steht somit vor dem gleichen Problem wie viele Apps, die in kurzer Zeit schnell gewachsen sind. Selbst große Netzwerke wie Facebook, die bereits seit Jahren bestehen, kämpfen mit der Moderation der Inhalte. Alle müssen einen eigenen Umgang mit kritischen und vor allem auch politischen Inhalten finden. Bis heute kann Tyler kein „Black Lives Matter“ in seine Bio einfügen, „neo nazi“ ging durch. Mit mehr und mehr Creatorn – vor allem aus der Black Community – die auf das Thema aufmerksam werden, sollte TikTok an einer Lösung arbeiten. Schließlich sind diese bereits seit den Black-Lives-Matter-Protesten im vergangenen Jahr nicht gut auf die Social App zu sprechen. Damals schränkte TikTok durch einen „technischen Fehler“ die Reichweite des Hashtags #blacklivesmatter ein. Durch Tylers Beispiel zeigt sich, dass seit dem bei weitem noch nicht alle Probleme im Umgang mit sensiblen und politischen Themen gelöst wurden.