Heikles Machtgeständnis von Zuckerberg: Dieses Deepfake-Video stellt Facebook vor ein Problem

Auf Instagram kursiert ein Video von Mark Zuckerberg, in dem er in die Kamera sagt: „Imagine this for a second: One man, with total control of billions of people’s data, all their secrets, their lives, their futures“. Das Video ist nicht echt, sondern Teil eines Kunstprojekts, das vom israelischen Startup Canny AI ins Leben gerufen wurde. Mit Hilfe von Videomaterial aus 2017 und der Nutzung von KI-Technologien, auch als Deepfake-Technologien bekannt, legen die Künstler dem Facebook-Gründer Worte in den Mund, die er so nie gesagt hat. Stattdessen wurden sie von einem Schauspieler gesprochen.

Wird Facebook das Video so stehen lassen?

Interessant wird der Umgang des Netzwerks mit dem Video sein: Erst letzten Monat hatte Facebook sich geweigert, ein Video von der Plattform zu nehmen, das die Sprecherin des US-Repräsentantenhauses Nancy Pelosi zeigte, wie sie in einer Rede lallte. Auch dieses Video war manipuliert worden und stellte nicht die Realität dar. Pelosi zeigte sich unzufrieden mit Facebooks Reaktion, die lediglich beinhaltete, den Inhalt herunterzustufen, so dass er nicht so vielen Nutzern im Newsfeed angezeigt würde, doch Neil Potts, Director Public Policy bei Facebook, gab damals an:

If it was the same video, inserting Mr. Zuckerberg for Speaker Pelosi, it would get the same treatment.

Diese Aussage wird sich jetzt beweisen müssen, denn der Inhalt des Zuckerberg-Videos, in dem er andeutet, dass er die Kontrolle über die Daten von Millionen Menschen hat und jetzt bereit ist, damit die Zukunft zu kontrollieren, kann nicht im Interesse des Unternehmens sein.

Eine richtige Entscheidung gibt es kaum

We will treat this content the same way we treat all misinformation on Instagram. If third-party fact-checkers mark it as false, we will filter it from Instagram’s recommendation surfaces like Explore and hashtag pages,

sagte ein Sprecher von Instagram. Der Umgang mit dem Video jetzt könnte nachfolgenden Deepfake-Videos als Präzedenzfall dienen und sollte wohl durchdacht sein. Die Entscheidung wird nicht dadurch erleichtert, dass CBS, denen das ursprüngliche Videomaterial gehört, sich jetzt beschwerten und die Löschung des Videos forderten.

In Zukunft braucht es Regeln für den Umgang mit Deepfake-Videos

Der Clip von Zuckerberg war als Teil eines Kunstprojekts, das auch Deepfake-Videos von Kim Kardashian und Donald Trump zeigt, auf dem Sheffield Doc/Fest in England ausgestellt worden und sollte den Zuschauern deutlich machen, wie einfach es mittlerweile ist, nicht nur Bilder zu faken, sondern eben auch Videomaterialien so zu bearbeiten, dass glaubhafte Resultate dabei herauskommen. Mit der Entwicklung dieser neuen Technologien müssen Entscheidungen getroffen werden, die den Verlauf des weiteren Umgangs mit ihnen maßgeblich beeinflussen könnten. In diesem Fall sind die Deepfake-Videos zumindest in der Art, wie sie veröffentlicht und mit welchen Hashtags sie versehen wurden, relativ deutlich als Kunst ausgewiesen, doch das nächste Fake-Video könnte nicht so einfach als solches zu erkennen sein. Ein schnelles Verbreiten über Facebook und Instagram würde in so einem Fall ein ernstes Problem darstellen.