Instagram arbeitet an KI-Kennzeichnungsfunktion

Der App-Forscher Alessandro Paluzzi, der immer wieder Instagram-Funktionen entdeckt, bevor sie offiziell angekündigt oder veröffentlicht werden, hat einen Screenshot einer Instagram-Meldung innerhalb der App gepostet, in der es heißt:

The creator or Meta said that this content was created or edited with AI.

Meta verpflichtet sich zur verantwortungsvollen KI-Nutzung

Das Label zeigt, dass Instagram jetzt weiterführende Informationen für Inhalte auf der Plattform gibt, sofern ein Beitrag mit KI beziehungsweise von Meta AI generiert wurde. In diesem Zusammenhang erklärt Instagram auch, was generative KI ist und wie Beiträge auf der Plattform identifiziert werden, die KI verwenden. Die von Paluzzi gepostete Instagram-Meldung legt nahe, dass Instagram zunächst nur visuelle inhalte labelt. Eine Markierung auch für Textinhalte ist jedoch naheliegend.

Diese Entdeckung erfolgt nur wenige Zeit, nachdem Meta zusammen mit sechs anderen großen Tech-Akteur:innen wie etwa Google, Microsoft und OpenAI gegenüber der US-amerikanischen Regierung Zusagen zu einem verantwortungsvollen Umgang mit Künstlicher Intelligenz gemacht hat. Das geht unter anderem aus einem Bericht der Tagesschau hervor. Neben Investitionen in die Cyber-Sicherheits- und Diskriminierungsforschung gehört zu den Zusagen auch die Entwicklung eines Systems, mit dem Benutzer:innen darüber informiert werden soll, wenn Inhalte durch KI generiert werden. Ein solches würde Meta im Zuge des Roll-outs dieser neuen Funktion auf Instagram realisieren – zumindest für diese Plattform.

Allerdings ist es noch unklar, wie genau das Kennzeichnungssystem von Instagram funktionieren wird und inwieweit Benutzer:innen selbst in diesem Zusammenhang offenlegen müssen oder sollen, dass sie KI zur Erstellung oder Bearbeitung von Inhalten verwendet haben. Die Tatsache, dass die Mitteilung von Paluzzi auf Instagram die Worte „Meta sagte“ enthält, deutet jedoch darauf hin, dass das Technologieunternehmen die Information über die Bearbeitung mittels KI zumindest in einigen Fällen proaktiv umsetzen wird, anstatt sich allein auf die Ehrlichkeit der User zu verlassen.

Diese KI-Projekte und -Funktionen von Meta im Zuge relevanter Tech-Entwicklungen sollen ebenfalls für mehr Sicherheit sorgen

Obwohl die Technologie noch in den Kinderschuhen steckt, haben wir bereits einen Vorgeschmack darauf bekommen, wie KI-generierte visuelle Fehlinformationen aussehen könnten, als im März dieses Jahres ein Bild des Papstes in einem Luxusdaunenmantel von Balenciaga in den sozialen Medien viral ging. In diesem Fall wurde das relativ harmlose Bild schließlich entlarvt, aber es wurde als Warnung angesehen, dass es mittlerweile Werkzeuge gibt, um gefährliche Fehlinformationen zu verbreiten, wenn man sie beispielsweise für politische Zwecke verwendet.

Im Zuge der jüngsten KI-Fortschritte ist es ebenfalls erwähnenswert, dass Meta kürzlich das umfangreiche Sprachmodell LLaMA 2 als Open-Source-Lösung bereitgestellt hat. Bei Tests hat das Modell, so heißt es seitens Metas, andere Open-Source Chat-Modelle, darunter auch GPT, in vielen Richtwerten übertroffen – so sei Llama 2 nicht nur hilfreicher, sondern auch sicherer als konkurrierende Modelle. Die Nutzung von LLaMA 2 steht den Nutzer:innen kostenlos zur Verfügung und bietet eine interessante Alternative zu anderen derzeit verfügbaren LLMs.

Sicherer als die Konkurrenz:
Meta launcht KI-Sprachmodell Llama 2

Für Instagram stehen jedoch derzeit noch keine verbraucher:innenorientierten generativen KI-Funktionen auf breiter Basis zur Verfügung. Es existieren lediglich Hinweise auf mögliche KI-Funktionen auf der Social-Plattform des Konzerns. Bei einem Meeting im Juni erklärte der CEO Mark Zuckerberg, Meta entwickle Funktionen wie die Verwendung von Textaufforderungen zum Ändern von Fotos für Instagram Stories, berichtete Axios. Auch der App-Forscher Paluzzi hat Anzeichen einer sogenannten KI-Pinsel-Funktion für Instagram entdeckt, die bestimmte Parts bei Bildern hinzufügen oder ersetzen kann.

#Instagram keeps working on the #AI tools for the Story editor 👀

AI Brush: add or replace specific parts of your image
Restyle: Reimagine this image by applying any visual style you can describe pic.twitter.com/oeRUwMVwdz

— Alessandro Paluzzi (@alex193a) July 29, 2023

Die Financial Times berichtete kürzlich außerdem, dass Meta bereits im kommenden Monat eine KI-Chatbot-Personas-Funktion in einige Bereiche, etwa Instagram und Facebook, integrieren könnte. Google wiederum hat bereits ein neues Tool angekündigt, das es Nutzer:innen erleichtern soll, festzustellen, ob ein Bild KI-generiert wurde. Die Funktion About this image, berichtete The Verge, soll noch diesen Sommer kommen und dabei helfen, KI-generierte Fälschungen zu erkennen.

---

Meta: KI-Systeme beeinflussen personalisierte Inhalte
– so kontrollierst du dein Plattformerlebnis