Fake-Bilder häufen sich: Midjourney stoppt kostenlose Testversion

GPT-4, der Bing AI Chat, Midjourney und andere KI-Tools zeigen, was mit Künstlicher Intelligenz heutzutage alles möglich ist. Während neue KI-Systeme aktuell förmlich aus dem Boden sprießen, wird auch die Diskussion um potenzielle Risiken solcher Technologien immer lauter. Elon Musk und zahlreiche andere Tech-Expert:innen fordern bereits, die Entwicklung leistungsfähiger KI-Tools für sechs Monate auf Eis zu legen. Die Gefahr für unter anderem die Verbreitung von Fehlinformationen sei ohne gemeingültige Sicherheitsprotokolle zu hoch. Die italienische Aufsichtsbehörde hat ChatGPT jüngst darüber hinaus aus Datenschutzgründen vorübergehend gesperrt.

Dass mit KI erstellte Bilder in kürzester Zeit zahlreiche Menschen täuschen können, zeigt ein mit Midjourney kreiertes Bild von Papst Franziskus. Auf dem viral gegangenen Bild sieht man das Oberhaupt der katholischen Kirsche in einer modischen Daunenjacke der Marke Balenciaga.

Midjourney Fakes: Trump wird verhaftet, Musk und AOC halten Händchen

Wer die kreierten Bilder nicht bis aufs letzte Detail untersucht, kann schnell glauben, dass es sich um echte Fotos handelt. Insbesondere die fünfte Version des Tools überzeugt durch realistische Darstellungen. Doch so sehr Midjourney bei der Bildqualität punktet, so scheint es dem Unternehmen doch an ausreichend vorhandenem und geschultem Personal zu mangeln. Nur etwa drei Dutzend Moderator:innen sind aktuell bei Midjourney tätig, wie die Washington Post berichtet.

Das gefälschte Bild vom Papst ist nicht das Einzige seiner Art: Neben Bildern von Twitter-Chef Elon Musk und Politikerin Alexandria Ocasio-Cortez beim Händchen halten machten auch mit Midjourney erstellte Bilder von Ex-US-Präsident Trump bei einer vermeintlichen Verhaftung in den vergangenen Tagen die Runde.

Keine konsistenten Regelungen

Es stellt sich die Frage: Hat Midjourney keine Richtlinien entwickelt, laut derer die Kreation solcher Bilder eingeschränkt oder diese zumindest gekennzeichnet werden müssten? Zum aktuellen Zeitpunkt lassen sich Bilder von US-Präsident Biden, Russlands Präsident Putin und anderen Politiker:innen generieren – jedoch keine des chinesischen Präsidenten Xi Jinping. David Holz, der Gründer und CEO von Midjourney, erklärte vergangenes Jahr in einem Discord Post:

We just want to minimize drama […] Political satire in china is pretty not-okay and the ability for people in China to use this tech is more important than your ability to generate satire.

Klare, durchdachte und konsistente Regelungen scheinen dem Unternehmen, zumindest diesem Beispiel nach zu urteilen, momentan noch zu fehlen. In einem Discord Call gab Holz laut der Washington Post selbst zu, aktuell bei der Bestimmung von Content-Regeln – insbesondere im Umgang mit der Darstellung von Personen – Schwierigkeiten zu haben.

Midjourney stoppt kostenfreie Testversion

Um die problematische Verwendung des Tools einzuschränken, soll die kostenlose Testversion in Zukunft nicht mehr angeboten werden. Das erklärt Holz auf Discord. Nichtzahlende User hätten Midjourney in hoher Zahl missbräuchlich verwendet. Wer das Tool weiterhin nutzen möchte, muss ein Abonnement abschließen, welches zwischen zehn und 60 US-Dollar im Monat kostet.

Die gehäufte Erstellung und Verbreitung von Fake-Bildern ist nicht die einzige Problematik, mit der Midjourney aktuell konfrontiert ist. So wurde das Unternehmen kürzlich von mehreren Künstler:innen verklagt, die diesem die Verwendung von Milliarden urheberrechtlich geschützten Bildern ohne Erlaubnis vorwerfen. Sowohl in Sachen Copyright und KI als auch bei der Verbreitung von künstlich erstellten Bildern steht die Welt aktuell vor vielen offenen Fragen.

KI-Influencer:
Social-Media-Trend mit Zukunft?