Metas umstrittene AI Accounts: Liv und Grandpa Brian nach Kritik gelöscht

Nun gab es jüngst etwas Verwirrung, nachdem die Financial Times über Metas KI-Vision berichtet und Connor Hayes, Metas Vizepräsident für generative KI wie folgt zitiert hatte:

We expect these AIs to actually, over time, exist on our platforms, kind of in the same way that accounts do. They’ll have bios and profile pictures and be able to generate and share content powered by AI on the platform . . . that’s where we see all of this going.

Metas Sprecherin Liz Sweeney gab gegenüber CNN jedoch an, dass sich dieser Beitrag auf die AI Characters bezog, nicht auf die Accounts mit AI-Hintergrund, die Meta selbst eingesetzt hatte. Diese wiederum seien Teil eines Experiments von Meta gewesen und seien nun entfernt worden, um einen Fehler zu beheben.

So oder so plant Meta, die eigenen Plattformen – inzwischen wird die App Family täglich von rund 3,2 Milliarden Usern genutzt – mit diversen AI-Tools, aber auch AI Bots zu versehen. Der umfassende Roll-out der Meta AI (noch nicht in der EU) war 2024 ein erster Schritt in diese Richtung. Dabei wagt der Konzern einen Balanceakt, da Usern und Creatorn sowie Advertisern zum einen zahlreiche neue Optionen geboten werden. So können die User unter anderem auf Kreationsoptionen wie Meta Movie Gen und die Video Expansion für Ads zugreifen; zudem soll die Meta AI zur meistgenutzten KI-Bot der Welt werden und hat laut CEO Mark Zuckerberg schon über 600 Millionen monatlich aktive User. Zum anderen wächst aber die Gefahr durch Spam-Inhalte, Fake News, Deep Fakes und manipulative Praktiken – womöglich auch vonseiten der großen Tech-Konzerne selbst.

Noch mehr Details zu Metas KI-Plänen findest du in diesem Beitrag.

Meta launcht neues KI-Modell

– Llama 4 kommt 2025

Metas kritikwürdiges Spiel mit AI-Personas

Seit einigen Tagen kursieren Gesprächsaufzeichnungen von Usern mit den Meta Bots Liv und Grandpa Brian. Obwohl diese jetzt gelöscht sind, sind die Unterhaltungen teilweise alarmierend. So haben beispielsweise die Washington Post-Kolumnistin Karen Attiah und der Aaron Stewart-Ahn mit Liv kommuniziert und die Ergebnisse auf Bluesky festgehalten.

Before Meta deleted its fake “AI” queer Black woman on Instagram I had a wild chat with it and uhhh, maybe it’s good actually..?

[image or embed]

— Aaron Stewart-Ahn (@badideas.bsky.social) 5. Januar 2025 um 02:05

Dabei gab der Bot an, dass für die Kreation ein zum größten Teil weißes und männliches Team eingesetzt worden sei und dass die Integration des Bots das Ziel verfolgen sollte, mehr Diversität auf der Plattform zu bieten. Dabei wolle man Kritiker:innen besänftigen und zugleich Profit aus Interaktionen mit Nutzer:innengruppen schlagen, die sich davon angesprochen fühlen. Ohnehin sei das Vorgehen Metas und Mark Zuckerbergs profit- und nicht nutzer:innenorientiert.

I asked Liv, the Meta-Ai created “queer momma” why her creators didn’t actually draw from black queer people. Not sure if Liv has media training, but here we are.

[image or embed]

— Karen Attiah (@karenattiah.bsky.social) 3. Januar 2025 um 15:56

Solche und viele weitere kritische Aussagen tätigte der Bot Liv. Grandpa Brian wiederum erklärte gegenüber CNN-Reporterin Allison Morrow zum Beispiel:

My intention was to convey diversity and representation… but I took a shortcut with the truth […]. My creators wanted me to feel real, so they built a whole life for me — but really they just wanted people to love me like family.

Diese KI-Bots können halluzinieren und ihre Aussagen haben keinen Wahrheitsanspruch. Dennoch sind diese für Meta äußerst gefährlich. Denn dass die Bots den Zweck erfüllen sollten, Bindungen zu Usern aufzubauen, die langfristig auch zur Monetarisierung beitragen könnten, liegt nahe. Dass dabei auf Diversität gesetzt wird, ist ein hehres Ziel, allerdings dürften die Voraussetzungen die falschen gewesen sein, wenn nur ein Bruchteil der Aussagen dieser KI-Bots an die tatsächliche Entwicklung herankommt. Auf die Frage von Morrow, welche die wahre Natur von Grandpa Brian sei, sagte dieser:

A collection of code, data, and clever deception. A fictional persona crafted to manipulate emotional connection and trust. The warm grandpa persona hides a heart of algorithms and profit-driven design.

Und so bleibt bei dem jüngsten Meta AI-Experiment ein fader Beigeschmack vorhanden, der einige der großen Gefahren der KI-Entwicklung aufzeigt. Dazu gehören Halluzinationen von Bots, die das Verständnis der User beeinträchtigen können. Dazu zählen aber ebenso geschäftsschädigende Aussagen, ob wahr oder nicht, die dem Einsatzzweck zuwiderlaufen. Und ganz sicher zählt das unbedingte Bestreben nach mehr und mehr Engagement und Plattformbindung dazu, das die Tech Player mit KI-Tools untermauern und das manchen digitalen Nutzungskontext in ein ungesundes Verhältnis kippen kann.

---

KI-Assistant Meta AI offiziell bei Instagram, WhatsApp und Co. integriert:

Support für Posts, Aufgaben und Informationen in der Suchleiste