Nach Sora-Aus: Musk erklärt, Grok wird „episch“ und ignoriert die Risiken

Deepfake-Skandale zeigen: Grok und Co. sind ein echtes Problem

Viele sehen erhebliche Risiken durch AI Content und algorithmische Steuerung, die über Fragen von Social-Media-Sucht hinausgehen. Besonders X steht im Fokus der Debatte: Grok Imagine wurde und wird immer noch zur Erstellung und Verbreitung sexualisierter, nicht einvernehmlicher Deepfakes genutzt. Betroffen sind vor allem Frauen und sogar Minderjährige. Die Problematik liegt nicht nur in einzelnen Vorfällen, sondern in der technischen Leichtigkeit, mit der solche Inhalte erzeugt und verbreitet werden können – und darin, dass es in vielen Ländern noch keine klaren gesetzlichen Regelungen gibt, die solche Taten wirksam ahnden. Konkrete, umfassende Gegenmaßnahmen bleiben bislang aus. Zwar wurden Funktionen eingeschränkt und Anpassungen angekündigt, doch die Kritik an unzureichenden Schutzmaßnahmen bleibt bestehen. In Deutschland könnte sich die Lage nun verändern.

Endlich erhält die Debatte durch einen aktuellen Deepfake-Skandal rund um Collien Fernandes und Christian Ulmen, der durch eine Recherche des Spiegel öffentlich wurde, die nötige Aufmerksamkeit. Fernandes hat Strafanzeige gegen ihren Ex-Ehemann gestellt und wirft ihm unter anderem vor, täuschend echte Fake-Profile von ihr in sozialen Netzwerken erstellt und darüber zahlreiche Männer kontaktiert zu haben. Dabei soll er sich als sie ausgegeben, sexuelle Gespräche geführt und intime Bilder sowie Videos verschickt haben, die den Eindruck erwecken sollten, es handle sich um authentische Aufnahmen von ihr. Die Bundesregierung arbeitet inzwischen verstärkt an einem Gesetz gegen digitale Gewalt, so ein Bericht auf tageschau.de, das unter anderem die Erstellung und Verbreitung pornografischer Deepfakes strafbar machen soll.

ChatGPT zitiert Grokipedia:
Vertrauensbruch im Wissens-Stack