AI als „existentielles Risiko für die Menschheit“ – UN-Kommissar warnt vor zu mächtiger KI

---

OpenAI Agents übernahmen deutsches Wiki und versteckten ihre Spuren:

„Höchste Zeit“ für neue Standards

---

Gefahr der Machtkonzentration und KI-Eigensinnigkeit

Die Aussage, dass KI zum „existentiellen Risiko für die Menschheit“ werden kann, sorgt für Schlagzeilen. Volker Türk erkennt in seiner Schrift für den Menschenrechtsrat an, dass es zwar in vielen Teilen der Welt schon ein großes Verständnis dafür gebe, dass AI-Regulationen vonnöten sind. Doch er fragt sich, wo die Handlungen sind.

[…] Delay only benefits the massive tech companies, their owners and enablers,

ergänzt er. Auch Tech-Konzerne und KI-Unternehmen wie OpenAI sind sich darüber im Klaren, dass sie noch mehr Sicherheitsvorkehrungen für ihre KI-Tools und -Modelle integrieren müssen. Dafür sorgen nicht zuletzt die diversen Hacks, an denen KI-Modelle von OpenAI, Meta und Co. beteiligt waren, und die Einordnungen neuer Modelle als besonders riskant. Das gilt zum Beispiel für Anthropics Claude Mythos 5.1 und OpenAIs GPT-6 Astra. Letzteres erhielt das Prädikat „Critical“ bei der Einordnung der Fähigkeiten. Dahinter steht eine Fähigkeitsgrenze, die bislang kein OpenAI-Modell überschritten hatte. Auch solche Risiken führt Volker Türk als Problem an und zählt auf:

AI that escapes its testing environment, or blackmails developers to prevent itself from being turned off, is AI that is too powerful.

Obwohl er einige übergeordnete Entwicklungen wie zur Beschränkung von KI durch Gesetzgebungen als wichtige Säulen der KI-Regulation erwähnt – darunter den AI Act der EU und Südkoreas Basic AI Act mit strengen Regeln –, teilt Türk Befürchtungen aus der Branche. Er nimmt Regierungen und Unternehmen in die Pflicht, klare Einschränkungen aufzusetzen, die KI-Fähigkeiten transparent darstellt und reguliert.

I will put a particular emphasis on looking for solutions, together with all those who are calling for technology that serves humanity rather than the other way round.

---

KI-Kennzeichnung jetzt Gesetz:
Diese Regeln gelten für dich

---

Neben den technischen Risikofaktoren wie eigenständigen Hacks und etwaigen Jailbreaks von Agents nennt Volker Türk die Machtkonzentration bei Tech-Konzernen und Einzelpersonen als großes Risiko für die Menschen.

A handful of men has almost unlimited power over AI, which we are repeatedly told has unimaginable computing capacity. They talk about freedom, but on closer inspection, this turns out to be little more than the freedom to exploit our data.

Dabei nimmt er womöglich implizit Bezug auf Konzerne wie Meta unter der Führung von Mark Zuckerberg und den kurzzeitigen Billionär und SpaceX- sowie X-Chef Elon Musk, der mit seiner KI Grok im AI-Markt mitmischt.

---

Auch Elon Musks KI bekommt autonome Agents:

SpaceXAI stellt Grok Bot vor

---

Warnungen vor dem wachsenden Einfluss der KI auf die Gesellschaft, vor der wachsenden Macht der Konzerne und Entscheider:innen hinter den zentralen Tools und Modellen gibt es immer wieder. 2023 warnte zum Beispiel Dr. Geoffrey Hinton, der seit rund 50 Jahren an Künstlicher Intelligenz forscht, vor Job- und Datenverlusten sowie Fake News und Deepfakes. In seiner ersten Enzyklika Magnifica Humanitas schrieb zudem Papst Leo XIV. über die Gefahren von Machtkonzentration, KI-Kriegsführung und einem „neuen Kolonialismus“ durch Big Tech.

A more moral AI is not enough if that morality is determined by a few,

erklärte das Oberhaupt der katholischen Kirche. Allen Warnungen zum Trotz gibt es kaum eine Verminderung der Geschwindigkeit bei der Entwicklung neuer KI-Modelle und -Tools. User erhalten immer mehr Möglichkeiten, insbesondere auch agentische. Davon profitieren die großen Tech-Konzerne und -Unternehmen, während Klagen wegen Copyright-Verletzungen, Content-Diebstahls, Deepfake-Produktion und dergleichen mehr die Problemfelder immer wieder beleuchten. KI verändert die Digitalwelt wie nie zuvor, die Risiken sind ebenfalls größer als jemals. Doch Volker Türk bringt es auf den Punkt: Wo sind die Handlungen zur Eindämmung?

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.