Grok: Nacktbild-Skandal und Top-Platzierung im App Store

Auch das ist das KI-Zeitalter: Die Diskrepanz zwischen problematischen, ja illegalen Deepfakes und dem Erfolg eines AI Visual Tools zeigt sich ganz besonders am Beispiel von Grok. Die große KI von xAI und Elon Musk, die so eng mit der Social-Media-Plattform X und der kontroversen KI-Enzyklopädie Grokipedia verknüpft ist, steht erneut in der Kritik. Mithilfe der Edit Images-Funktion beim Feature Grok Imagine haben User sexualisierte Deepfakes von sich, aber auch Frauen und sogar Minderjährigen erstellen können. Daher fordern Staaten wie Frankreich und Indien Aufklärung, es gibt sogar schon Strafanzeigen. Grok entschuldigt sich vage, Elon Musk scheint das weniger zu besorgen. Kein Wunder, denn Grok erobert dank der Feature Updates die App Charts.

---

Grok Imagine mit Spicy Mode jetzt for free

---

Mit Grok Imagine: Beinahe Grenzenlose KI-Bildmöglichkeiten von Nacktbildern bis zu Politikverzerrung

Das KI-Video- und Bildgenerierungsmodell Grok Imagine steht allen Grok Usern weltweit in der App kostenfrei zur Verfügung. Damit können User diverse Bildideen in Visuals umsetzen. Es gibt sogar einen Spicy Mode, der auch in fiktiven Videos sexualisierte Inhalte ermöglicht. Lasziv tanzende Anime-Charaktere und entblößte Figuren, nicht zuletzt ein Video, das eine Person, die Taylor Swift verblüffend ähnlich sieht, oben ohne zeigt. Diese Inhalte konnten User trotz der Sicherheitsvorkehrungen von xAI kreieren, was Grok schon vor Monaten in die Kritik brachte.

Doch zuletzt kam es gar dazu, dass die kürzlich überarbeitete Edit Images-Option Usern ermöglichte, eigene Bilder sowie Bilder von Dritten zu nutzen, um die Personen virtuell – zumindest teilweise – zu entkleiden. Dabei wurde sogar vor Minderjährigen nicht Halt gemacht. Sexualisierte Deepfakes von xAI wurden vielfach auf X geteilt – wo seit geraumer Zeit auch Pornographieinhalte erlaubt sind.

Grok hat schon mehrfach heftige Kritik auf sich gezogen, weil der KI-Bot durch antisemitische Aussagen und Fehlinformationen für Aufsehen sorgte. Die jüngsten Verfehlungen aber führten in Frankreich sogar schon zu Strafanzeigen, Indien fordert eine Aufklärung von xAI. Nur: Das KI-Unternehmen von Elon Musk scheint die Problematik nicht so ernst zu nehmen wie sie ist. Grok entschuldigte sich zwar via X und sprach von Schwachstellen bei den Guardrails und einer raschen Behebung. Elon Musk aber zeigt sich unbeeindruckt, reagiert auf X auf andere Grok Imagine-Kreationen wie eine Art Karikatur des jüngst von den USA entführten venezolanischen Machthabers Nicolás Maduro mit dem Verbrecher und einstigem Popstar Sean Combs (P. Diddy) mit einem Lach-Emoji.