Macht ByteDance Deepfake-Videos bei TikTok möglich?

Apps wie Face Swap haben sich 2019 besonders schnell verbreitet und sogenannte Deepfake-Technologien gehörten zu den Trends des vergangenen Jahres. Bei Deepfakes werden Bilder oder Videos digital erstellt, die häufig Gesichter von Personen in fremde Kontexte integrieren – von politischen Reden bis hin zu pornografischen Videos.

Nach Angaben von Josh Constine bei US-Publisher TechCrunch soll TikToks Mutterunternehmen ByteDance für die App TikTok beziehungsweise die chinesische Variante Douyin ein Feature entwickelt haben, das Nutzern das Erstellen von Deepfake-Videos in der App ermöglicht.

Ein Deepfakes Creator bei TikTok?

Das israelische Research Startup Watchful.ai habe TechCrunch einen Hinweis auf Code-Elemente in den Android-Apps TikTok und Douyin gegeben, gibt Constine in seinem Artikel an. Diese Elemente deuten darauf hin, dass eine – noch unveröffentlichte – Funktion eingeführt werden könnte, die User aufruft, ihr Gesicht aus verschiedenen Perspektiven biometrisch zu scannen. In der Folge könnten die Nutzer dann aus einer Reihe von Videos wählen, in denen sie ihr Gesicht integrieren möchten. Diese Deepfake-Videos ließen sich dann in der App teilen. Screenshots von Watchful.ai geben einen ersten Eindruck.

Das Konzept für das Feature könnte nach Erkenntnissen von TechCrunch an die Deepfake App Zao angelehnt sein, die laut Spiegel Online im Herbst 2019 bereits wegen Datenschutzbedenken in der Kritik stand. Zao ermöglicht die artifizielle Verbindung von Gesichtern und Körpern verschiedener Personen in Videos und Bildern. Twitter User AllanXia liefert ein Beispiel:

Der Ablauf: Vom Scan zum Deepfake bei TikTok

Bei TikTok (und Douyin) muss ein Nutzer zunächst sein Gesicht umfassend einscannen, will er es in einem Deepfake-Video einsetzen. Dabei soll gleichzeitig die Identität dieses Nutzers verifiziert werden. Außerdem möchte der App-Anbieter durch die Aufforderung zum Kopfschütteln oder Zwinkern, Mund-Schließen oder Nicken sicherstellen, dass es sich um eine reale Person und nicht etwa einen Bot handelt.

In der Folge kann der Nutzer Videos bearbeiten, für die ByteDance die Rechte besitzt, heißt es im Bericht weiter. Erstellte Deepfake-Videos können daraufhin geteilt oder heruntergeladen werden; allerdings soll ein Wasserzeichen markieren, dass es sich um keine genuinen Aufnahmen, sondern um Bearbeitungen handelt.

Watchful.ia will in der App außerdem noch nicht bestätigte Änderungen der Nutzungsbedingungen entdeckt haben, die auf die Einführung der Funktion hindeuten. Sie werden bei TechCrunch zitiert:

Your facial pattern will be used for this feature. Read the Drama Face Terms of Use and Privacy Policy for more details. Make sure you’ve read and agree to the Terms of Use and Privacy Policy before continuing. 1. To make this feature secure for everyone, real identity verification is required to make sure users themselves are using this feature with their own faces. For this reason, uploaded photos can’t be used; 2. Your facial pattern will only be used to generate face-change videos that are only visible to you before you post it. To better protect your personal information, identity verification is required if you use this feature later. 3. This feature complies with Internet Personal Information Protection Regulations for Minors. Underage users won’t be able to access this feature. 4. All video elements related to this feature provided by Douyin have acquired copyright authorization.

Dementi von TikTok und Douyin

Auf Anfrage von Publisher TechCrunch gab ein TikTok-Sprecher an, dass die Nutzungsbedingungen für ein Feature im Face-Swap-Stil nicht offiziell seien. Außerdem wurde darauf hingewiesen, dass einige Code-Elemente sich auf Douyin bezögen, was auf TikTok keine Auswirkungen habe. In Bezug auf TikTok hieß es jedoch: „The inactive code fragments are being removed to eliminate any confusion.“ Ein Douyin-Sprecher wiederum bestätigte, dass es keine Kooperation mit Zao gebe und alle rechtlichen Maßgaben befolgt würden.

Trotz dieser Beteuerungen konnten die Researcher den Code und klare Hinweise auf das Feature erkennen, deren Dasein durch die offiziellen Statements unerklärt bleibt. Möglicherweise wird die Funktion zur Kreation von Deepfake-Videos bei TikTok und Douyin gar nicht ausgerollt. Alle Angaben von Watchful.ai und TechCrunch lassen aber vermuten, dass sie bereits einsatzfähig wäre.

Deepfakes und der schmale Grat

Würde ByteDance sich doch zum Schritt eines Rollouts entscheiden, dürfte dieser zumindest gewagt sein. Snapchat hatte kürzlich eine ähnliche Funktion gelauncht, doch stellt sich bei dieser und bei vergleichbaren Features die Frage, welche Langzeitfolgen das in Bezug auf die Privatsphäre im Netz haben kann. Deshalb würde ByteDance die Funktion zumindest nur für Personen ab 18 Jahren zugänglich machen, wie Watchful.ai angibt. Doch auch diese könnten Gefahr laufen, durch illegitim erstellte Deepfakes Opfer digitaler Kränkungen zu werden. Watchful.ai CEO Itay Kahana gibt TechCrunch gegenüber an:

These deepfake apps might seem like fun on the surface, but they should not be allowed to become trojan horses, compromising IP rights and personal data, especially personal data from minors who are overwhelmingly the heaviest users of TikTok to date.

Womöglich könnten TikTok und Douyin mit den genannten Hürden eine sicherere Umgebung für Deepfake-Kreationen bieten als eine Reihe von Apps, für die die biometrischen Daten wertvoller sein dürften als für ByteDance. Die Angst vor dem Missbrauch von Deepfakes ist womöglich aber ähnlich groß wie das Entertainment-Potential.