Deepfake Porn: Deshalb verändert Google jetzt das Ranking-System

Google ist zuletzt vor allem durch immer neue Gen AI Features und nicht zuletzt die Meldung aufgefallen, dass das Support-Ende für Third Party Cookies bei Chrome überraschenderweise doch ausbleiben wird. Doch das AI-first-Unternehmen ist für viele noch immer Synonym mit der Internetsuche – und verändert diese immer wieder. So gab es im Search-Kontext etwa im Juni das ebenfalls überraschende Ende des Continuous Scrolling sowie den Abschluss des June 2024 Spam Updates zu vermelden. Jetzt gibt es erneut ein Ranking Update, das jedoch auf ein ganz spezifisches Problem zurückzuführen ist.

Google und der Kampf gegen Fake Content und sexualisierte Deepfakes

Im März führte Google parallel zum Core und Spam Update neue Spam-Richtlinien ein, die eine Vielzahl illegitimer Inhalte in der Suchmaschine ausschließen sollen. Allerdings werden auf diversen Plattformen, auch Google, stets nicht nur Fake News, sondern auch Fake-Inhalte geteilt. Das wird durch die rasante Entwicklung generativer KI nur noch einfacher. Besonders problematisch ist, dass auch mithilfe von KI sexualisierte Deepfakes vielfach generiert und geteilt werden. Emma Higham, Product Manager bei Google, erklärt auf dem Blog the Keyword:

[…] As generative imagery technology has continued to improve in recent years, there has been a concerning increase in generated images and videos that portray people in sexually explicit contexts, distributed on the web without their consent […].

Deshalb vereinfacht Google den Vorgang, um derlei Content entfernen zu lassen. Wenn eine solche Anfrage zum Entfernen von nicht einvernehmlich geteilter Fake-Pornografie aus den Suchergebnissen erfolgreich bearbeitet wurde, sollen Googles Systeme auch Ergebnisse bei ähnlichen Suchanfragen filtern und solche Inhalte entfernen. Auch Duplikate sollen künftig nach einem Scan entdeckt und sofort entfernt werden.

Darüber hinaus passt Google das Ranking-System derart an, dass bei Suchanfragen mit einem erhöhten Risiko zur Anzeige von Fake-Pornographie, die nicht legitim geteilt wird, das Anzeigerisiko minimiert wird. So erklärt Highham:

[…] For queries that are specifically seeking this content and include people’s names, we’ll aim to surface high-quality, non-explicit content — like relevant news articles — when it’s available. The updates we’ve made this year have reduced exposure to explicit image results on these types of queries by over 70%. With these changes, people can read about the impact deepfakes are having on society, rather than see pages with actual non-consensual fake images […] .

Google versucht auch, legitime pornographische Inhalte besser von Fake Porn zu unterscheiden und letzteren schlechter zu ranken. Seiten, die eine hohe Anzahl an Entfernungen von Inhalten aufweisen, werden von der Suchmaschine aktiv abgewertet. Im Zuge der Entwicklung von immer neuen KI-Features und auch der Integration von AI Overviews in der Standardsuche wird die Herausforderung für Google, gegen Spam, Fake Porn, Deepfakes und Co. anzukommen, nur größer werden. Deshalb sind jedwede Sicherheitssysteme mit Blick auf die User von großer Bedeutung.

Googles neuer Guide:

Hier lernst du jetzt alles über die Ranking-Systeme