Facebook löscht 2018 über 1 Milliarde Fake Profile: Wie groß ist das Problem wirklich?

Mit der Veröffentlichung des Community Standards Enforcement Reports hat Facebook nicht nur publik gemacht, welche Maßnahmen das Soziale Netzwerk jetzt und künftig gegen Cyber Bullying ergreifen will, sondern auch erstmals Zahlen zu Fake Accounts bereitgestellt. So hat der Konzern im ersten Halbjahr 2018 knapp 1,3 Milliarden Fake Profile gelöscht. In Relation zur Gesamtanzahl der Nutzer hört sich die Zahl immens an. Doch ist das Problem ein großes oder hört es sich nur so an?

Facebooks Transparenz weist Lücken auf

Mit der fortwährenden Weiterentwicklung von AI-basierten Technologien schafft Facebook es inzwischen, unerwünschte Inhalte auch ohne vorherige Meldung durch User zu finden und Maßnahmen zu ergreifen. So ist es Facebooks eigenen Angaben zufolge dank der Künstlichen Intelligenz gelungen, 98,5 Prozent der Fake Accounts zu löschen.

Nun beziffert Facebook in seinem Report die Zahl der gelöschten Fake Accounts allein in den ersten sechs Monaten dieses Jahres auf 1,3 Milliarden. Lediglich drei bis vier Prozent soll die Anzahl der Fake Accounts betragen, die in diesem Zeitraum noch immer aktiv waren. Während die erste Zahl eine massive Verseuchung der Plattform nahelegt, suggeriert die andere, dass das Problem eher geringen Ausmaßes sei. Was stimmt denn nun?

Om Malik berichtete Ende 2017, Facebooks Berichten zufolge hätte das Netzwerk mit etwa 64 bis 85 Millionen Fake Accounts zu kämpfen, was in diesem Falle tatsächlich drei bis vier Prozent der monatlich aktiven User ausgemacht hat. Dabei unterteilt Facebook Fake Profile in zwei Kategorien:

1. User-misclassified Accounts
   Diese Kategorie beschreibt doppelte Profile von Usern, die neben ihrem privaten Account auch einen für ihr Haustier etwa angelegt haben. Aber auch Unternehmensprofile können damit gemeint sein, sofern diese nicht als Page sondern als Profil angelegt sind.
2. Undesireable Accounts
   Diese Accounts werden tatsächlich als unerwünscht eingestuft, da sie allein dem Zweck dienen Spam zu verbreiten oder zu trollen.

Facebook legt in seinem Report nicht offen, um welche Art von Fakes es sich bei den in Q1 gelöschten 538 Millionen genau handelt. Malik schreibt auf seinem Blog OM.co, dass der Report auch darüber keine Aussage trifft, ob die Anzahl gestiegen oder gesunken ist. Malik bemängelt die Art und Weise der Offenlegung dieser doch recht wichtigen Zahlen. Denn so könne daraus nicht geschlossen werden, ob täglich mehrere Millionen Accounts aufgespürt und gelöscht werden, ob die 538 Millionen Profile an einem Tag entdeckt und Maßnahmen ergriffen wurden oder welche Bemühungen Facebook überhaupt unternimmt, um gegen die massive Anzahl anzukämpfen.

Auf Nachfrage gab Facebook gegenüber Malik an:

We estimated that fake accounts represented approximately 3% to 4% of monthly active users (MAU) on Facebook. Because we often catch and disable these fake accounts (the 538 million number) within minutes of registration, they never even get counted in our monthly active user number.

In Q1 2018, we disabled 583 million fake accounts, down from 694 million in Q4 2017. Our metrics can vary widely for fake accounts acted on, driven by new cyber attacks and the variability of our detection technology’s ability to find and flag them. The decrease in fake accounts disabled between Q4 and Q1 is largely due to this variation.

Das Fake Profil-Problem ist demnach sowohl als groß als auch als klein einzustufen. Denn im Vergleich zu den absoluten Nutzerzahlen stellen Fakes eine eher geringe Einheit dar. Dennoch ist die Anzahl groß genug, um immensen Schaden anzurichten, wie die Debatten der letzten Monate durchaus aufzeigen konnten.

Fake Profile beschränken sich nicht auf Facebook

Dass Facebook sich grundsätzlich etwas ziert hier Klarheit reinzubringen, kann laut Malik durchaus daran liegen, dass das Nutzerwachstum eine Metrik ist, auf die an der Wall Street großer Wert gelegt wird. Logisch wäre dies; Facebook hat, was seine Video Metriken anbelangt, bereits vor zwei Jahren falsche Zahlen an Advertiser ausgeliefert – und das über einen Zeitraum von zwei Jahren.

Dennoch: Fake Accounts sind kein Phänomen, mit dem allein Facebook zu kämpfen hat. Auch Instagram oder Twitter etwa sind Bot-verseucht, der Kampf dagegen wirkt ein wenig wie der gegen Windmühlen. Mit der Weiterentwicklung von KI-basierten Technologien und Tools haben die Plattformen jedoch gute Chancen, dem Problem in Zukunft besser Herr zu werden.