Mit AI gegen Mobbing: Neue Features auf Instagram

Instagram, die Foto-Plattform, auf der Influencer ihren Travel- und Food-Content teilen und Nutzer sich über das Treiben ihrer Freunde und Bekannten up-to-date halten, hat auch ihre Schattenseiten. Viele Nutzer fühlen sich durch den selbstdarstellenden und oft als „fake“ titulierten Content eingeschüchtert. Auch bietet die Plattform Raum für Mobbing, was sich besonders aufgrund der überwiegend jungen Nutzer als zunehmend problematisch dargestellt hat. Mit zwei neuen Funktionen möchte Instagram gegen Mobbing angehen und dieses eindämmen.

„Are you sure you want to post this?“

Mit Hilfe von AI sollen Nutzer darauf hingewiesen werden, wenn ihr soeben geposteter Kommentar als beleidigend aufgefasst werden könnte und mit der Frage „Bist du dir sicher, ob du das posten möchtest?“ die Gelegenheit zur Reflektion bieten. So könnten Kommentare wieder rückgängig gemacht werden, bevor der Empfänger sie sieht. Instagram gibt in der Bekanntmachung der neuen Features an, dass in Testläufen einige Nutzer die Funktion annahmen und sich nach dem Hinweis dazu entschieden, den Kommentar zu löschen und etwas anderes zu kommentieren. Was genau die AI in ihrer Arbeit als beleidigend einstuft, wird in dem Beitrag nicht erläutert, nur dass sie auf anderen gemeldeten Kommentaren basiert.

Blockieren auf sanfte Art

Während in einer optimalen Instagram-Welt jeder verletzende Kommentar bereits vor Veröffentlichung identifiziert wird und der Verfasser erkennt, dass er besser etwas anderes posten sollte, entspricht dies leider nicht der Realität. Um Nutzern, die regelmäßig Opfer eines bestimmten anderen Accounts werden, die Chance zu geben, sich zu wehren, wurde die zweite neue Funktion erdacht. Bisher konnten Nutzer andere Nutzer lediglich komplett blockieren, melden oder nicht mehr folgen. Die meisten der jungen Nutzer greifen jedoch ungern zu diesen Methoden, wie Instagram angibt, da sie oft auch im realen Leben mit ihren Mobbern zu tun haben und die Ergreifung der aufgelisteten Maßnahmen die Situation für sie oft nicht verbessern würde.

Entfolgt, meldet oder blockiert man auf Instagram einen anderen Account, bekommt dieser das auf kurze oder lange Sicht vermutlich mit – anders als bei der „Restrict“-Funktion, die Instagram bald einführen möchte. Kommentare einer Person, die „restricted“ wurde, sind nur für den Verfasser und den Empfänger sichtbar, können jedoch für alle freigeschaltet werden, sofern der Empfänger das möchte. Zudem können die eingeschränkten User nicht mehr sehen, wann die andere Person online ist oder ob sie ihre Direktnachrichten gelesen hat.

Instagrams Versuch, gegen die Verbreitung von unerwünschten Inhalten vorzugehen, kommt in einer Zeit, in der auch Mutterkonzern Facebook mit ähnlichen Themen zu kämpfen hat. Die neuen Funktionen könnten dabei helfen, wieder zum Urgedanken zurückzukehren und die Plattform zu einem Ort machen, an dem Nutzer sich gerne aufhalten. Adam Mosseri, CEO von Instagram, schreibt in dem Beitrag:

Our mission is to connect you with the people and things you love […]. We know bullying is a challenge many face, particularly young people. We are committed to leading the industry in the fight against online bullying, and we are rethinking the whole experience of Instagram to meet that commitment. We can do more to prevent bullying from happening on Instagram, and we can do more to empower the targets of bullying to stand up for themselves