Meta möchte Content- und Werbemoderation an AI auslagern

Der Konzern setzt bei der Moderation von organischen Inhalten und Ads schon seit langer Zeit auf eine Mischung aus Automatisierungen und menschlicher Übersicht. Bis dato hat Meta laut Financial Times bereits 50 Prozent der Review- oder Prüfanfragen, die zu beanstandeten Inhalten oder Anzeigen eingegangen sind, an KI-Systeme ausgelagert. Bis Ende des Jahres sollen 90 Prozent dieser Prüfanfragen von der KI bearbeitet werden. Auch 90 Prozent der Risikobewertungen für Plattform-Features sollen über kurz oder lang von der KI kommen. Von entsprechenden Plänen berichtete NPR bereits im Vorjahr, nachdem der Publisher interne Dokumente Metas gesichtet hatte.

Die großteilige Auslagerung der Content-Moderation an die KI ist von Meta zwar nicht offiziell bestätigt worden, folgt aber einem klaren Muster. Der Konzern möchte die menschliche Prüfung minimieren. Eine solche Entwicklung begann schon Anfang 2025. CEO Mark Zuckerberg kündigte seinerzeit an, unabhängige Faktenchecks auf den eigenen Plattformen durch Community Notes zu ersetzen, neue Richtlinien einzuführen und eine Lockerung der Durchsetzungsmaßnahmen zu erwirken. Dass die Trust and Safety und Content Moderation Teams von Florida nach Texas umgesiedelt wurden, klingt im Grunde irrelevant, doch die Erklärung nicht. Es geschehe, so Zuckerberg im vorigen Jahr, weil in Texas weniger Bedenken bezüglich der Voreingenommenheit der Teams bestünden als in Kalifornien.

Zudem sollen nur noch illegale Handlungen und hochgradige Verstöße gegen die Richtlinien von Metas eigenen Filtern verfolgt werden. Kleinere Verstöße aber nicht, dabei verlässt sich der Konzern dann darauf, dass Dritte solche im Zweifelsfall melden. Das heißt aber auch, dass kleinere Verstöße oft ungeahndet bleiben. Und dazu dürften Fake News, Beleidigungen, rassistische oder misogyne Äußerungen zählen. Schließlich möchte der Konzern auch die Hürden für eine Content-Entfernung erhöhen. Das war eine Reaktion auf die eigene Erkenntnis, dass man zu viele Inhalte fälschlicherweise gesperrt hat.

This is a trade-off. It means that we’re going to chat less bad stuff, but we’ll also reduce the number of innocent people’s posts and accounts that we accidentally take down.

Im Umkehrschluss bedeutet das aber auch fast unweigerlich einen Zuwachs problematischer Inhalte auf Facebook und Instagram, die nicht geahndet werden und die Plattformkultur sowie den digitalgesellschaftlichen Umgang beeinträchtigen. Dass nunmehr noch weniger menschliche Überprüfung als Gegengewicht eingeplant ist, mag das Problem nur verstärken. Zwar kann auch Metas hochintelligente KI Probleme identifizieren – und das sicher schneller als Menschen – und Maßnahmen prüfen oder einsetzen. Doch die KI basiert auf Metas Daten und Trainingsmaterial, an ihrer unparteiischen oder gar differenzierten Einschätzung von Einzelfällen kann es zumindest Zweifel geben.

Meta trainiert(e) die KI mit dem Input der Mitarbeiter:innen

Die Entwicklung, dass Meta mehr und mehr Aufgaben im Konzern von der KI übernehmen lassen möchte, ist nicht neu. Zuletzt fiel der Konzern damit auf, dass Mitarbeiter:innen quasi zur Datenquelle wurden. Meta ließ ihre Arbeit überwachen, um KI-Systeme zu trainieren, die genau solche Tätigkeiten künftig eigenständig übernehmen können. Anders gesagt: Die tägliche Arbeit der Mitarbeiter:innen dient als Blaupause für automatisierte Prozesse. Laut der Financial Times arbeitet Meta sogar an einer Art digitalem Avatar des Gründers Mark Zuckerberg. Dieser soll mit Mitarbeiter:innen interagieren, seine Stimme und Mimik imitieren und sogar typische Argumentationsmuster übernehmen. Dass Meta zuletzt auch tausende Mitarbeiter:innen entließ, um effizienter zu werden, schürt die Angst, dass zukünftig noch deutlich mehr Arbeitsstellen durch KI-Prozesse ersetzt werden.

Die Software zum Tracking der Mitarbeiter:innen ist unterdessen pausiert worden, weil es einen etwaigen internen Daten-Leak gab. Einige Trainingsdaten könnten für manche Mitglieder des Konzerns einsehbar gewesen sein, schreibt etwa die BBC. Ob sie bald wieder eingesetzt wird, ist unklar. Die Belegschaft jedenfalls zeigte sich frustriert über die Methode, muss womöglich aber in den kommenden Monaten und Jahren mit weiteren Maßnahmen rechnen, die die KI-Kontrolle über Prozesse vorantreiben sollen.

Die Content- und Ads-Moderation steht dabei 2026 im Fokus. Gerade dieser Bereich steht unter besonderer Beobachtung. Immerhin wächst die Zahl der Inhalte auf Metas Plattformen enorm – und immer mehr KI-generierter Content kommt dazu, mehr und mehr nebenbei aufgenommene Videos oder Fotos könnten mit Wearables wie den neuen Smart Glasses folgen. Die Moderation all dessen ist schlicht und einfach Aufgabe von Meta. Der Konzern legt den Großteil der Kontrolle in die Technologie der KI. Doch die Kontrolle könnte auch entgleiten, wenn die Modelle dem menschlichen Anspruch an Einordnung nicht gerecht werden können. Ob Meta das schert, steht auf einem anderen Blatt.

Das sind die neuen Meta Glasses von Meta mit Kylie Jenner, Muse Spark und 26 Styles

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.