TikTok entwickelt neue Tools, um User vor potenziell schädlichen Inhalten zu schützen

Jüngst launchte TikTok den Inventory-Filter, mit dem Brands mehr Kontrolle über die Platzierung ihrer Ads gewinnen, sodass diese bei Bedarf nicht mehr neben unseriösen User-Inhalten angezeigt werden. Jetzt hat die ByteDance-Tochter außerdem verschiedene neue Inhaltsfilter und Altersbewertungen für User angekündigt, um die App sicherer zu machen.

Bereits Anfang des Jahres 2022 erklärte die App, dass sie ein System entwickeln möchte, das vor allem jugendliche Nutzer:innen im Alter von 13 bis 17 Jahren vor jugendgefährdenden Inhalten schützen soll. Eine erste Version dieses stellte die Entertainment-Plattform kürzlich vor. Es heißt „Content Levels“ und soll in den nächsten Wochen ausgerollt werden. Ein enthaltenes Feature bietet zudem auch Usern aller Altersklassen die Möglichkeit, Videos mit bestimmten Wörtern oder Hashtags zu filtern, damit sie nicht im Feed angezeigt werden.

TikTok reagiert mit „Content Levels“ auf zunehmende Kritik an der Entertainment App

TikToks Erfolge sind bahnbrechend, doch wie so oft, ist da wo Licht ist, auch Schatten. Beispielsweise tauchen immer wieder Fragen nach dem Datenschutz auf. Insbesondere die Kritik am nun bestätigten Zugriff auf sensible User-Daten in China sorgte zuletzt für Furore. Kürzlich musste die App sogar ein kontroverses Update der Datenschutzrichtlinien im letzten Moment stoppen. 

Auch der Umgang TikToks mit dem Thema Kinder- und Jugendschutz ist sowohl Regulierungsbehörden als auch Gesetzgeber:innen sowie besorgten Eltern ein Dorn im Auge. Und einige Vorfälle zeigen, dass die Kritiker:innen Recht haben könnten. Beispielsweise klagte eine Gruppe von Eltern kürzlich TikTok an, da ihre Kinder verstorben waren, nachdem sie wahrscheinlich eine Challenge von TikTok meistern wollten. Eine weitere Klage reichten ehemalige TikTok-Moderator:innen ein – der Vorwurf lautet, dass sie bei der herausfordernden Arbeit, anstößige Videos aus dem sozialen Netzwerk zu entfernen, nicht angemessen von der ByteDance-Tochter unterstützt wurden.

Altersklassifizierung, Content-Filter und mehr: Welche Schutzmaßnahmen sind seitens TikToks geplant?

Das zukünftige „Content Levels“-System soll die Klassifizierung von Inhalten in der App ermöglichen. Ähnlich wie bei Filmen, Serien und Videospielen soll eine Altersfreigabe Teil des Systems sein. TikToks mit nicht jugendfreien Inhalten, beispielsweise Szenen, die für jüngere User beängstigend sein könnten, werden dabei sogenannte Reifepunktzahlen zugewiesen und entsprechend nicht mehr an unter-18-Jährige ausgespielt. Der passende Reifegrad wird von Trust und Safety-Moderator:innen der Plattform zugewiesen. TikTok erklärte zudem zuvor, dass möglicherweise auch Creator selbst aufgefordert werden sollen, ihre Inhalte einem Reifegrad zuzuordenen.

In weiteren Schritten sollen Filteroptionen für die gesamte Community, also auch für erwachsene User, geliefert werden. Konkret sollen User eigenständig TikToks mit bestimmten Buzzwords oder Hashtags manuell filtern und blockieren können. Diese Funktion soll sich nicht nur auf potenziell schädliche Inhalte beschränken, sondern beispielsweise Vegetarier:innen und Veganer:innen die Möglichkeit bieten, Rezepte mit Fleisch ausschließen zu können.

Außerdem plant TikTok neue Funktionen, die verhindern sollen, dass User wiederholt potenziell problematische Inhalte zu sehen bekommen, etwa Videos über Diäten, extreme Fitness oder auch Depressionen. Tests wurden bereits vergangenes Jahr in den USA gestartet, nachdem Untersuchungen aufzeigten, wie algorithmische Empfehlungssysteme Essstörungen bei Usern fördern könnten. Eine weitere Funktion, die TikTok für Creator auf der Plattform bereitstellen möchte, ist die Einschränkung von Zuschauer:innengruppen für ihre Live Streams.

Bisher war TikTok jedoch in einer Reihe von Fällen noch nicht in der Lage, problematische Inhalte einzudämmen – seien es Kinder, die gefährliche, kriminelle oder gar tödliche Stunts nachmachen, oder Videos, die beispielsweise frauenfeindliche oder transphobe Inhalte aufweisen. Inwieweit sich die neuen Tools tatsächlich darauf auswirken, wer welche TikToks sieht, bleibt abzuwarten. Cormac Keenan, TikTok Head of Trust and Safety, gibt sich zuversichtlich, räumte jedoch auch Fehler ein. Er erklärte in einem Blogbeitrag:

As we continue to build and improve these systems, we’re excited about the opportunity to contribute to long-running industry-wide challenges in terms of building for a variety of audiences and with recommender systems. We also acknowledge that what we’re striving to achieve is complex and we may make some mistakes.