Mit neuer Methode: Facebooks AI Tool entlarvt Milliarden Fake Accounts

Der Kampf gegen Fake-Inhalte und Accounts in den sozialen Medien nimmt immer neue Formen an. Nun gibt Facebook Auskunft über ein aktuelles Machine-Learning-System, das eingesetzt wird, um die vielen Konten auf der Plattform nicht nur isoliert, sondern in der Interaktion mit anderen Accounts zu überprüfen. Auf diese Weise werden pro Profil insgesamt rund 20.000 Aspekte analysiert, um einschätzen zu können, ob es sich um einen legitimen Account handelt.

Machine Learning lässt Facebook das Account-Verhalten nachvollziehen

Dem eigenen Transparenzbericht zufolge werden gut fünf Prozent der Konten monatlich aktiver Nutzer bei Facebook als potentielle Fake Accounts eingeschätzt. Bei den 2,5 Milliarden Usern wären das immerhin 125 Millionen Konten.

Nick Statt berichtet bei The Verge nun von Einzelheiten, die Facebook zum eigenen Machine-Learning-System Deep Entity Classification (DEC) geteilt hat. Mithilfe dieses Systems kann Facebook nicht nur den Account selbst, sondern auch dessen Interaktionen mit anderen Accounts und das Verhalten dieser interagierenden Konten im Kontext automatisiert analysieren. Nach den Angaben bei The Verge werden hierfür bis zu 20.000 Momente, die einen Account ausmachen – darunter das Verhalten bei Freundschaftsanfragen oder Gruppenbeitritten – miteinbezogen. So soll sichergestellt werden, dass die Bad Actor ein genuines User-Verhalten nicht einfach reproduzieren können, ohne enttarnt zu werden. Werden die arglistigen Ersteller von Fake Accounts kreativer, muss eine Plattform wie Facebook Antworten darauf finden. Und das AI-basierte System der DEC zeigt Wirkung.

Milliarden Fake Accounts geblockt

Meistens erkennt Facebook Fake Accounts schon beim Prozess der Registrierung – und entfernt sie unmittelbar. Allein im Zeitraum vom Juli bis September 2019 wurden rund 1,7 Milliarden Fake Accounts gesperrt. Denn jeden Tag verhindert das Unternehmen millionenfach das Erstellen solch illegitimer Konten.

Die Facebook AI wird beim Kampf gegen die Fakes zusätzlich von manuellen Prüfungen und den Usern unterstützt, die potentielle Fake-Konten melden.

Insbesondere im Kontext des US-Wahlkampfs und anderer politischer Kampagnen, aber auch im Social-Media-Alltag können Fake Accounts schädlich für die Digitalgemeinde sein. Daher zeigt der Social-Media-Riese im Transparenzbericht auf, wie und wie effektiv gegen solche Konten vorgegangen wird. CEO Mark Zuckerberg forderte jüngst auch von anderen sozialen Medien entsprechende Berichte.

Auch die Fake-Ersteller entwickeln sich weiter

Problematiken wie Deepfakes zeigen, dass Technologien und KI auch von Dritten eingesetzt werden können, um auf Facebook Desinformationen zu verbreiten. Facebook versucht, dem einen Schritt voraus zu sein und das DEC-System weiter zu optimieren. Dass künftig dennoch eine beträchtliche Anzahl an Fake Accounts und Fake-Inhalten auf der Plattform auftauchen wird, ist angesichts der schieren Masse an Usern in Facebooks Kosmos kaum zu verhindern. Die Relevanz der Arbeit, die Facebook im Hintergrund leistet, lässt sich jedoch an den Milliarden Fake Accounts ablesen, die schließlich nicht auf der Plattform auftauchen oder nach Minuten verschwinden.

Was bei Facebook als Fake beziehungsweise als Falschdarstellung angesehen wird, geht aus den Gemeinschaftsstandards hervor.