Scam Alert: WhatsApp lässt KI direkt auf dem Handy nach Scams suchen

KI macht Scams überzeugender und so auch schwerer zu erkennen. Für Messaging Apps wie WhatsApp entsteht damit ein Dilemma: Sie sollen Nutzer:innen vor Betrug schützen, können die privaten Nachrichten dank Ende-zu-Ende-Verschlüsselung aber nicht einfach selbst durchleuchten. WhatsApp versucht diesen Spagat mit Scam Alert.

Die neue KI-Funktion prüft verdächtige Nachrichten direkt auf dem Gerät und warnt Nutzer:innen, wenn sie einen möglichen Scam erkennt. Die Nachrichten müssen dafür laut Meta nicht an WhatsApp übertragen werden. Auch Google setzt bereits auf KI, die Nachrichten direkt auf dem Gerät auf mögliche Scams prüft. Wie Scam Alert dabei genau funktioniert, erklärt Meta in einem technischen Überblick.

Noch ist Scam Alert nicht für alle verfügbar. Meta testet die Funktion zunächst in einer begrenzten Beta und will das System gemeinsam mit Sicherheitsforscher:innen weiter überprüfen. Erst danach soll entschieden werden, ob und in welcher Form die Betrugserkennung für alle WhatsApp-Nutzer:innen ausgerollt wird. Die Funktion bleibt zudem freiwillig und kann jederzeit deaktiviert werden.

---

WhatsApp ermöglicht jetzt Anrufe über WhatsApp Web
– das ist außerdem neu

---

So funktioniert WhatsApps Scam-Erkennung

Scam Alert arbeitet direkt auf dem Smartphone. Sobald die Funktion aktiviert ist, lädt WhatsApp ein kleines Machine-Learning-Modell auf das Gerät. Dieses Modell wurde anhand von Mustern aus Scam-Unterhaltungen trainiert, die Nutzer:innen zuvor an WhatsApp gemeldet haben.

Das Modell prüft eingehende Nachrichten von Personen, mit denen man noch keinen Kontakt hat. Dabei berücksichtigt es unter anderem die Struktur der Unterhaltung und sprachliche Hinweise, die typisch für Scams sind. Die Nachrichten selbst müssen dafür laut Meta nicht an WhatsApp übertragen werden.

Was passiert bei einem möglichen Scam?

Erkennt das Modell einen möglichen Scam, zeigt WhatsApp eine Warnung an, die nur für die betroffene Person sichtbar ist. Sie kann Absender:innen blockieren, die Unterhaltung melden oder trotzdem weiterführen.

Hält die:der Empfänger:in die Warnung für falsch, kann der Chat als vertrauenswürdig markiert werden. Die Warnung verschwindet dann und Scam Alert markiert die Unterhaltung künftig nicht mehr. Wer Meta dabei helfen möchte, die Erkennung zu verbessern, kann außerdem freiwillig die letzten fünf empfangenen Nachrichten aus dem Chat an WhatsApp übermitteln.

Meta will zeigen, was die Scam-KI macht

Meta will zudem nachvollziehbar machen, welche Version der Scam-Erkennung tatsächlich auf dem Smartphone läuft. Vor jeder Verteilung soll die jeweilige Version öffentlich dokumentiert und mit einer eindeutigen Prüfsumme versehen werden. Sicherheitsforscher:innen können so überprüfen, ob die auf einem Gerät eingesetzte Version tatsächlich der angekündigten Version entspricht.

Meta will außerdem die Modellgewichte veröffentlichen. Damit können unabhängige Forscher:innen untersuchen, wie die Scam-Erkennung arbeitet und ob sie tatsächlich auf die Erkennung von Scams ausgelegt ist.

Welche Daten verlassen das Smartphone?

Für die normale Erkennung verlassen die Nachrichten das Gerät nicht. WhatsApp sammelt laut Meta lediglich zusammengefasste und anonymisierte Angaben darüber, wie oft Warnungen angezeigt werden und wie Nutzer:innen darauf reagieren.

Diese Angaben werden zunächst auf dem Gerät zusammengefasst und anschließend in einer geschützten Umgebung ausgewertet. WhatsApp erhält damit laut Meta keine einzelnen Nachrichten oder Informationen darüber, welche konkrete Unterhaltung eine Warnung ausgelöst hat.

Eine Ausnahme gibt es, wenn Nutzer:innen selbst aktiv werden: Wer einen Chat meldet, kann damit die Übermittlung der entsprechenden Nachrichteninhalte an WhatsApp auslösen. Scam Alert selbst meldet verdächtige Nachrichten dagegen nicht automatisch.

---

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.