Facebook und Twitter stoppen gemeinsam Manipulation aus dem Iran & Co.

Der Kampf gegen Fake News und Wahlbeeinflussung bei Social Media wirkt mitunter wie Sisyphusarbeit: ständig tauchen neue Gruppen, Seiten und Accounts auf, deren Posts und Muster in den sozialen Medien unlauter sind. Nun haben Twitter und Facebook in Kooperation zahlreiche solcher Seiten usw. aus dem Iran entfernt. Auch in Bangladesch, Russland und Venezuela verbannte Twitter massenhaft dubiose Accounts.

Kooperation zweier Social Media-Giganten: Iran als Quelle unauthentischer Accounts

783 Seiten, Accounts und Gruppen in Verbindung zum Iran hat Facebook von seiner Plattform verbannt. Bei Twitter waren es seit August 2.617 Konten, die aus dem Land stammen. Wie CNet berichtet, sind diese gelöscht worden, weil sie darauf ausgelegt waren, politische Meinungen und gesellschaftliche Ansichten in anderen Ländern maßgeblich zu beeinflussen – und zwar auf unangemessene Art und Weise. Facebook spricht bei seiner Meldung dazu von „coordinated inauthentic behavior.“ Darunter ist insbesondere zu verstehen, dass die Accounts, Seiten oder Gruppen irreführend für andere Nutzer sind, weil sie unter Vorspiegelung falscher oder fraglicher Tatsachen Meinungen in sozialen Netzwerken zu beeinflussen suchen.

Bei den betroffenen Konten handelte es sich Facebooks Angaben zufolge oft um Fake Accounts, die mit den Iran in Verbindung standen, aber aus zahlreichen Ländern – wie Albanien, Ägypten, Bahrain, Deutschland, Mexiko, Syrien usw. – stammen. Oft wurden News oder andere Inhalte gepostet, die sich mit der politischen Lage im Nahen Osten beschäftigten. Bei Konflikten etwa zwischen Israel und Palästina wurden auch die Rollen der USA, Russlands oder Saudi-Arabiens miteinbezogen.

Zum einen hatte man die unauthentischen Momente im Kontext des Irans überprüft, um solche Accounts zu finden. Zum anderen hatte Twitter Informationen mit Facebook geteilt; sodass beide Social Media gegen die unangemessenen Inhalte und ihre Urheber vorgehen konnten. Nathaniel Gleicher, Cybersicherheits-Chef bei Facebook, erklärte bei CNet:

This is an encouraging example of the type of collaboration we’re hoping to build across the industry.

Facebook hat die Erkenntnisse aus der Untersuchung mit US-Ermittlungsbehörden, dem US-Kongress und politischen Funktionären in betroffenen Ländern geteilt.

Facebook setzt die Aktion gegen fragwürdige Gruppen und Seiten fort

Wie Facebook nur kurze Zeit nach der Angabe zu den entfernten Konten im Zusammenhang mit den Iran bekannt gab, sind über 500 Gruppen, mehr als 200 Seiten und 800 Konten gelöscht worden, die unauthentisches Verhalten bei der Plattform in Indonesien erkennen ließen. Ihnen wird vom Sozialen Netzwerk vorgeworfen, andere darüber im Unklaren zu lassen, wer sie sind und was sie konkret tun. Alle Seiten und Accounts wiesen Verbindungen zum Online-Syndikat der Saracen Group auf. Diese Organisation ist von Facebook verbannt worden, weil sie mit den unauthentischen Konten koordiniert gegen die Richtlinien der Plattform verstoßen hat. Beispiele für die entfernten Gruppen sind:

• Permadi Arya (Seite)
• Kata Warga (Seite)
• Darknet ID (Seite)
• berita hari ini (Gruppe)
• ac milan indo (Gruppe)

Facebook betont jedoch, dass die Gruppen, Seiten usw. nicht explizit aufgrund ihrer Inhalte verbannt werden, sondern wegen ihres Verhaltens auf der Plattform. Eine falsche Darstellung der Identitäten und Organisationen ist für das Medium ein Grund zum Ausschluss. So möchte man verhindern, dass Facebook zur Manipulation missbraucht wird; insbesondere im politischen Kontext. Das Unternehmen verspricht weitere Investitionen im Kampf gegen die unlautere Beeinflussung seiner Nutzer.

Twitter setzt tausende Konten aus

Der Kurznachrichtendienst hat im Rahmen der Kooperation mit Facebook selbst 284 Accounts gesperrt, die zum großen Teil aus dem Iran kommen.

https://twitter.com/TwitterSafety/status/1032055161978585088

In einem Blogpost erklärt Yoel Roth, Head of Site Integrity bei Twitter, dass man insgesamt tausende Konten bei der Plattform gesperrt hat. Twitter hatte im letzten Jahr ein Datenarchiv angelegt, in dem Tweets versammelt werden, die nach Analyse der Plattform staatlich unterstützt oder politisch manipulativ sein könnten.

These datasets include all public, nondeleted Tweets and media (e.g., images and videos) from accounts we believe are connected to state-backed information operations.

Neben den dubiosen Nutzungsmustern im Iran hat Twitter solche in anderen Ländern festgestellt. Demnach sind in Bangladesch vereinzelt Accounts entfernt worden. Zudem wurden in Russland aktuell 418 Konten gesperrt, wobei man dort insgesamt schon über 3.800 ausgesetzt hatte. Außerdem wurden in Venezuela 1.196 Konten gelöscht. Denn diese sind anscheinend in eine staatlich gesteuerte Kampagne verwickelt, die die Nutzerschaft beeinflussen soll. Weitere 764 Accounts aus dem Land wurden gesperrt, da sie vermutlich aus dem Ausland gesteuerte manipulative Momente aufwiesen. Twitter kommentierte hierzu etwa:

However, these accounts are another example of a foreign campaign of spammy content focused on divisive political themes, and the behavior we uncovered is similar to that utilized by potential Russian IRA accounts.

Facebook und Twitter haben sich also im Kampf gegen die zusehends umfassendere politische Manipulation in Social Media kurzfristig zusammengetan. Dabei könnte dies ein geeigneter Weg sein, um den größten organisierten irreführenden Konten beizukommen. Immerhin sind deren Besitzer oft auf verschiedensten Social Media unterwegs. Und als Urheber zumindest fragwürdiger politischer Statements sollten sie unter Beobachtung stehen; Twitters Archiv sorgt im Zuge dessen bereits für Transparenz. Unabhängig von den Bemühungen der Plattformen sind die Nutzer jedoch auch gefragt. Da die sozialen Medien als Nachrichtenquelle und Äußerungsplattform dienen, müssen hier politisch gefärbte Posts, Gruppen, Konten usw. immerzu kritisch betrachtet werden. Das ist nicht immer einfach, weil die Manipulation oft nicht offensichtlich ist. Dafür bieten die Social Media inzwischen aber schon einige Features, die Inhalte und Urheber transparenter machen; trotz Kritik an Facebook, Twitter und Co. muss man ihnen das zugute halten.