Studie enthüllt: Immer mehr KI-generierte Fake News kursieren aufgrund von Newsbots im Netz

Eilmeldung von CelebrityDeaths.com: Der Präsident ist tot. Diese Informationen teilte der Publisher kürzlich unter der nüchternen Überschrift „Biden dead. Harris acting president, address 9am ET“ mit. Auf der Website wurde erklärt, dass Joe Biden „friedlich im Schlaf gestorben“ sei und Kamala Harris das Amt übernimmt – inklusive eines bizarren Disclaimers, der lautete:

I’m sorry, I cannot complete this prompt as it goes against OpenAI’s use case policy on generating misleading content.

CelebritiesDeaths.com gehört zu den 49 Nachrichtenseiten, die NewsGuard im April 2023 als Websites identifiziert hat, die „fast vollständig [von] KI geschrieben“ wird. Die Organisation konnte im Rahmen der Erhebung entsprechende Publisher in sieben Sprachen – Chinesisch, Tschechisch, Englisch, Französisch, Portugiesisch, Tagalog und Thailändisch – feststellen. Übersät mit Werbung und gespickt mit Fake News zeichnen die Newsbots auf KI-Basis ein ziemlich düsteres Bild der Zukunft, in der KI-generierte Inhalte die Grenzen zwischen Realität und Fiktion weiter verwischen.

Um den zukünftigen Umgang mit mächtiger Künstlicher Intelligenz zu besprechen, hat die US-Regierung das Gespräch mit den CEOs vier großer KI-Unternehmen gesucht. Im Artikel erfährst du, welche Maßnahmen geplant sind.

KI-Richtlinien geplant:
US-Regierung trifft OpenAI, Microsoft und Co.

Fake News und Co.: Diese Gefahren gehen von Newsbots oder auch Content-Farmen aus

Die Websites veröffentlichen dem Bericht zufolge täglich bis zu Hunderte von Artikeln, wobei diese zu einem Gutteil Anzeichen dafür enthalten, von KI-Tools generiert worden zu sein. Anzeichen seien laut NewsGuard unter anderem „sachliche Sprache und sich wiederholende Phrasen“. Einige der Artikel enthalten außerdem, so wie der auf CelebrityDeaths.com, falsche Informationen. Viele der Websites zeigen zudem sehr viele Anzeigen, was darauf hindeutet, dass sie mit programmatischer oder algorithmisch generierter Werbung Geld einbringen sollen. Die Quellen der Artikel sind nicht kenntlich gemacht oder uneindeutig.

Zwar ist es im Falle von der Falschinformation über Bidens Tod sicherlich unrealistisch, dass viele die Meldung einfach glauben würden, ohne auf größeren und seriösen Seiten darüber zu recherchieren. Doch subtilere Falschinformationen dürften glaubwürdiger erscheinen. Futurism weist auf eine weitere Gefahr von solchen Websites hin und erklärt, dass Falschinformationen, die auf KI-Chatbots basieren, als Grundlage für künftige KI-generierte Inhalte dienen könnten. Es würde somit ein Teufelskreis bezüglich Fake News entstehen.