Schutz vor ungewollten Nacktfotos: Die Social-Plattform testet „Nudity Protection“ für Chats

So funktioniert Instagrams Schutz vor ungewollten Nacktfotos

Die in den Screenshots angehängte Funktionsübersicht zeigt, dass User die neue Technologie optional aktivieren können. Diese scannt die Inhalte von Direct Messages, um potenzielle angehängte Nacktbilder zu erkennen. Bei einer Erkennung wird das Bild verpixelt. Nur, wenn der User möchte, kann er sich die Nacktaufnahme anzeigen lassen.

Die Funktion nützt jedoch bisher lediglich bei dem Auffinden von Nacktfotos, nicht bei Videos. Daher wäre es wünschenswert, wenn die Technologie zukünftig auch für Videos ausgeweitet werden würde; schließlich ist der Trend zum Bewegtbild auf sämtlichen Social-Plattformen und generell im Digitalraum deutlich.

Instagram stellt klar, dass die Plattform selbst keine Inhalte prüft

Einige User finden es jedoch besorgniserregend, dass Instagram ihre Nachrichten prüfen und diese inhaltsbasiert filtern möchte. Instagram versichert jedoch in dem Nudity-Protection-Menü: „Instagram can’t access the photos.“ Und auch der App-Forscher Alessandro Paluzzi hebt in seinem Tweet, den Navarra seinem angehangen hat, hervor, dass die Technologie Fotoinhalte unkenntlich macht, die möglicherweise Nacktheit in Chats enthalten.

Instagram kann demnach nicht selbst auf die Fotos in Nachrichten zugreifen. Nach einer Aktivierung erkennt das Tool diese Art Inhalte eigenständig, ohne dass sie zur Analyse an die Instagram Server gesendet werden müssen.

Überwiegt die Schutzfunktion des neuen Sicherheits-Tools?

Die meisten User erkennen jedoch den potenziellen Sicherheitswert dieses Tools an – vor allem für jüngere User. Denn Instagram war lange eine recht unsichere digitale Spielwiese; so mussten bis 2019 Nutzer:innen bei der Registrierung nicht einmal ihr Geburtsdatum angeben. Aufgrund von zunehmender Kritik wegen mutmaßlicher Vernachlässigung von kinder- und jugendschützenden Maßnahmen, launchte die Social-Plattform kürzlich unter anderem zwei neue Möglichkeiten zur Altersverifizierung und testet sogar ein KI-Tool zur Verifizierung des Alters per Gesichts-Scan. Zudem hat Instagram bereits eine „Nudging“-Funktion in den USA, in Großbritannien, Irland, Kanada, Australien und Neuseeland eingeführt, durch die Teens vom verstärkten Konsumieren toxischer Inhalte abgehalten werden sollen. Die Social-Plattform arbeitet außerdem an einem „Take a Break“ Feature, das Jugendliche ermutigen soll, Zeit außerhalb der App zu verbringen.

In Kombination mit diesen Features könnte Instagrams „Nudity Protection“ für Direct Messages den Schutz auf Instagram vor potenziell schädlichen Inhalten deutlich verbessern. Derzeit ist noch unklar, ob dieser Schutz für alle Chats oder separat für jeden Chat aktiviert werden kann. Wann dieser Schutz verfügbar sein wird, ist ebenfalls noch ungewiss, da Instagram ihn noch nicht offiziell angekündigt hat.