Facebook will Deepfakes verbannen – mit Ausnahmen

Zuletzt wurden Features auf TikTok und Snapchat veröffentlicht, die es Usern ermöglichen, eigene Deepfake Videos zu erstellen und zu posten. Kurznachrichtendienst Twitter hingegen stellte gegen Ende letzten Jahres eigene Pläne vor, um gegen Deepfakes auf der eigenen Plattform vorzugehen. An dieses Vorhaben schließt sich nun auch Facebook an. Zeitig vor den US-Wahlen gibt Facebook bekannt, dass das Unternehmen sich des Problems von manipulierten Inhalten auf der Plattform annehmen möchte. So heißt es im Statement von Facebook:

Manipulations can be made through simple technology like Photoshop or through sophisticated tools that use artificial intelligence or ‚deep learning‘ techniques to create videos that distort reality – usually called ‚deepfakes‘. While these videos are still rare on the internet, they present a significant challenge for our industry and society as their use increases.

Gewisse Inhalte werden künftig verbannt

Hierfür habe es diverse Meetings mit Experten aus aller Welt gegeben, so das Unternehmen. Geeinigt habe man sich auf einige Guidelines, welche Arten von manipulierten Medieninhalten von der Plattform verbannt werden sollten:

It has been edited or synthesized – beyond adjustments for clarity or quality – in ways that aren’t apparent to an average person and would likely mislead someone into thinking that a subject of the video said words that they did not actually say. And:

It is the product of artificial intelligence or machine learning that merges, replaces or superimposes content onto a video, making it appear to be authentic.

Im Vordergrund stehen hierbei Inhalte, die irreführend in der Hinsicht wirken, dass sie für die meisten User nicht eindeutig als manipuliert und bearbeitet erkennbar sind. Dazu gehören auch Inhalte, die Machine Learning oder eine Künstliche Intelligenz erstellt und dort, wie in Deepfake Videos üblich, gewisse Teile des Videos sehr realistisch ersetzt haben. So kann beispielsweise scheinbar ein Politiker ein Statement abgeben, das er so nie formuliert hat. Auch Mark Zuckerberg selbst wurde bereits zum Opfer eines realistisch wirkenden Deepfake Videos, in dem er ein heikles Machtgeständnis abzugeben schien und regte damit zu Diskussionen über das Missbrauchspotential an.

Es gibt einige Ausnahmen

Doch nicht alle bearbeiteten Videos sollen von dem Sozialen Netzwerk verbannt werden. Inhalte, die als Parodie oder Satire durchgehen, dürfen weiterhin gepostet und geteilt werden. Auch Videos, in denen lediglich Worte ausgelassen werden oder deren Reihenfolge verändert wurde, sind noch zulässig. Derartige Inhalte können jedoch von unabhängigen Faktencheckern überprüft werden. Wird bei dem Gegencheck deutlich, dass es sich um eine Fälschung handelt, möchte Facebook diese jedoch nur als solche markieren und darauf verzichten, alle Fälschungen von der Plattform zu löschen. Den Grund dafür gibt das Unternehmen auch an: Selbst wenn derartige Inhalte nicht mehr auf Facebook zu finden sind, wären sie dennoch überall im Netz zu finden. Da wäre es, so Facebook, sinnvoller, die Inhalte deutlich als Fälschung markiert online zu lassen. Auch wenn jemand ein als Fake markiertes Video teilen möchte, soll hierauf noch einmal hingewiesen werden.

Im Grunde möchte Facebook seine Nutzer bilden, so dass diese in Zukunft selbstständig hinterfragen und in der Lage sind, Deepfakes und andere manipulierte Inhalte zu erkennen. Mit Druck von außen, besonders in Hinblick auf die US-Wahlen, ist dies wohl ein erster forscher Schritt. Am kommenden Mittwoch ist eine Anhörung zum Thema „Americans at risk: Manipulation and deception in the digital age“ angesetzt, bei dem Monika Bickert, Vizepräsidentin Global Policy Management bei Facebook, die auch das Statement verfasste, vor dem United States House Committee on Energy and Commerce, sprechen soll. Der Ausschuss ist unter anderem für Verbraucherschutzfragen zuständig.