TikTok setzt scharfe Regeln für KI-Content fest – inklusive Markierung

Eine der größten und wichtigsten Plattformen für die Erstellung und Verbreitung von Content weltweit hat neue Community-Richtlinien festgelegt. TikTok hat die Regularien für die Entertainment-Plattform geändert – und insbesondere den „Umgang mit Inhalten, die mithilfe künstlicher Intelligenz erstellt oder verändert wurden“, in den Fokus gestellt. Demnach muss Content, der künstlich (also zum Beispiel mit KI-Tools) erstellt wurde, und reale Szenen abzubilden scheint, künftig markiert werden. Darüber hinaus werden derlei synthetische Inhalte nicht geduldet, wenn sie eine reale Person abbilden.

TikTok sagt Deepfakes den Kampf an und möchte bestimmten KI-Content markieren lassen

In Zusammenarbeit mit der eigenen Community sowie über 100 Organisationen der Welt, darunter die International Association for Suicide Prevention (IASP) und die Gay and Lesbian Alliance Against Defamation (GLAAD), hat das Unternehmen neue Regeln und Standards für die eigene Plattform erarbeitet. Die Änderungen, die ab dem 21. April inkraft treten, stellt TikTok im eigenen Newsroom vor. Dabei gibt es einige zentrale Anpassungen. So wird das Wort „Volksstamm“ als geschütztes Attribut behandelt, um gegen Hassrede und hasserfülltes Verhalten vorzugehen. Des Weiteren wird der Umgang mit politischen Inhalten und Werbung angepasst. So heißt es im entsprechenden Community-Richtlinienbereich etwa:

[…] Wir dulden keine bezahlte politische Förderung, politische Werbung oder Spendensammlungen durch Politiker*innen oder politische Parteien (weder für sich selbst noch für andere). Unsere Richtlinie für politische Werbung umfasst sowohl herkömmliche bezahlte Anzeigen, als auch Creator*innen, die eine Vergütung erhalten, um Kandidat*innen für ein Amt zu unterstützen oder abzulehnen. Wir wollen den informierten Austausch zivilgesellschaftlicher Ideen auf eine Weise ermöglichen, die einen produktiven Dialog fördert. Wir gestatten keine Fehlinformationen in Bezug auf zivilgesellschaftliche Prozesse oder Wahlverfahren, unabhängig von ihrer Absicht. […].

Von besonderem Interesse dürfte für sehr viele Creator jedoch der neue Umgang mit Inhalten sein, die künstliche (zum Beispiel mithilfe von KI) hergestellt oder manipuliert wurden. Die Anpassungen TikToks könnten mehr Schutz von Einzelpersonen begünstigen, aber auch für Verwirrung sorgen.

Die KI-Richtlinien TikToks im Detail

In den aktualisierten Community-Richtlinien heißt es, dass TikTok die Kreativität, die KI ermöglicht, begrüße. Zugleich wollen man aber dafür sorgen, dass die User zwischen Fakten und Fiktion unterscheiden können. Daher fordert die App einer Markierung von KI-generierten Inhalten, sofern diese realistische Szenen abbilden:

Wenn künstlich hergestellte oder manipulierte Medieninhalte realistische Szenen zeigen, muss dies eindeutig offengelegt werden. Dies kann durch die Verwendung eines Stickers oder einer Bildunterschrift mit Worten wie ‚künstlich hergestellt‘, ‚gefälscht‘, ‚nicht echt‘ oder ‚abgeändert‘ erfolgen.

Was genau „realistische Szenen“ sind, erklärt TikTok nicht; das liegt dann womöglich im Ermessen der Content-Moderator:innen. Ohnehin dürfte es für die App mit mehr als einer Milliarde monatlich aktiver User schwierig werden, alle KI-generierten Inhalte auf ihre etwaigen Markierungen hin zu überprüfen. Sofern überhaupt alle als KI-generiert erkannt werden. Als Richtlinien gilt jedoch die Vorgabe ab kommendem Monat für alle Creator.

Darüber hinaus möchte TikTok den Einsatz von KI-generiertem Content im Kontext der künstlichen Darstellung realer Personen unterbinden. So schreibt das Unternehmen:

Wir erlauben keine künstlich hergestellten Medieninhalte, die das Abbild einer realen Privatperson enthalten. Auch wenn wir bei Personen von öffentlichem Interesse mehr Spielraum einräumen, möchten wir nicht, dass sie Opfer von Missbrauch werden oder dass Nutzer*innen in Bezug auf politische oder finanzielle Angelegenheiten irregeführt werden. Wir erlauben keine künstlich hergestellten Medieninhalte zu Personen von öffentlichem Interesse, wenn diese Inhalte zur Unterstützung verwendet werden oder gegen andere Richtlinien verstoßen. Dazu gehören Verbote von Hassreden, sexueller Ausbeutung und ernsthaften Formen der Belästigung (mehr über Personen von öffentlichem Interesse unter Belästigung und Mobbing).

Mit diesem Abschnitt dürfte die App darauf abzielen, Deepfakes zu verbannen. Ein Account wie „Unreal Margot Robbie“ dürfte nach diesem Update also keine Inhalte mehr bereitstellen.

Mit den neuen KI-Richtlinien wird TikTok angesichts der Welle neuer AI Tools, die mithilfe von GPT-3.5 und GPT-4 sowie anderer Technologien die künstliche Content-Erstellung stark vereinfachen und beschleunigen, einigen Problemen bei der Content-Moderation zuvorkommen. Allerdings dürften in den kommenden Wochen und Monaten zahlreiche KI-generierte Inhalte die Plattform erreichen. Die Differenzierung von legitimen und gegen die Richtlinien verstoßenden Inhalten dürfte dann zur Mammutaufgabe werden – ganz zu schweigen von der Bewältigung aller Moderationsfälle.

So möchte TikTok die eigenen Richtlinien durchsetzen

Im Rahmen des Updates für die Richtlinien stellt TikTok auch die vier Säulen vor, die bei der Content-Moderation im Fokus stehen:

1. Entfernung von verletzenden Inhalten;

2. Altersbeschränkungen für nicht jugendfreie Inhalte, damit diese nur von Erwachsenen (18 Jahre oder älter) angesehen werden können. (Hinweis: Auch diese Inhalte müssen unseren Community-Richtlinien entsprechen);

3. Nicht-Zulässigkeit von Inhalten für eine Empfehlung im Für-dich-Feed, die nicht für ein breites Publikum geeignet sind;

4. Ausstattung unserer Community mit Informationstools und Ressourcen, damit diese die Kontrolle über ihre persönliche Nutzungserfahrung behalten.

Neben den inhaltlichen Anpassungen für die Guidelines sollen auch die Strategien zur Durchsetzung angepasst werden. Demnach wird TikTok künftig mehr Informationen preisgeben, wenn Konten gegen Regeln verstoßen und deshalb bestraft werden. Dabei betont das Unternehmen, dass mehrere Konten zur Umgehung von Strafen keine Option darstellen sollen. Des Weiteren sollen Einschätzungen zur Content-Moderation, die mit Belangen und Personen des öffentlichen Lebens zusammenhängen, transparent kommuniziert werden. Und:

Wir machen genauere Angaben darüber, wie wir Informations- und Warnhinweise sowie Opt-in-Fenster in unsere Arbeit integrieren.

All diese Community Guidelines Updates könnten dazu beitragen, TikTok für User, Brands und Advertiser sicherer zu machen und Einzelpersonen sowie das geistige Eigentum besser zu schützen. Allerdings wird es schließlich darauf ankommen, wie effektiv die Plattform diese Richtlinien in der Praxis auch durchzusetzen imstande ist. Insbesondere im Kontext der möglichen KI-Content-Welle, die auf die Plattformen zukommt. Welchen Status dabei zum Beispiel KI-generierte Influencer einnehmen, wird sich noch zeigen müssen.

GPT-4 ist da:

Das sind die ersten faszinierenden Einsatzmöglichkeiten