Warum der Papst vor KI warnt – und wer ihm beipflichtet

re:publica 2026:
Europa darf Macht nicht länger Silicon Valley überlassen

Papst Leo XIV. fordert Ethikkodex, strengere Regeln und weniger Macht für Big Tech

Technology has the power to heal, connect, educate and protect our common home; but it can also divide, exclude and generate new forms of injustice,

schreibt Leo XIV. gleich zu Beginn des Lehrschreibens. Auf mehr als hundert Seiten warnt der Papst vor einem „neuen Kolonialismus“ durch große Technologiekonzerne, vor der Konzentration von Daten, Infrastruktur und Rechenleistung sowie vor einer schleichenden Entmenschlichung durch KI-Systeme. Technologie sei „per se weder eine Lösung für die Probleme der Menschheit noch ein Übel“. Neutral sei sie allerdings ebenfalls nicht, weil sie immer die Interessen und Werte derjenigen widerspiegele, die sie „konzipieren, finanzieren, regulieren und nutzen“.

Besonders deutlich wird Leo XIV. bei der Macht großer Tech-Konzerne. Zwar nennt er weder Elon Musk noch Unternehmen wie Meta, Google oder OpenAI direkt. Mit Blick auf das „Babel-Risiko“ der digitalen Welt schreibt er jedoch:

In the digital sphere, control over platforms, infrastructures, data and computing power is in many cases not in the hands of States, but of large economic and technological actors.

KI dringe mittlerweile in nahezu alle Lebensbereiche vor und bringe zahlreiche Risiken mit sich. Besonders kritisch sieht der Papst Systeme, bei denen sensible Entscheidungen „vollständig automatisierten Systemen überlassen werden“ oder KI-Modelle ideologische Vorannahmen ihrer Entwickler:innen verstärken. Leo XIV. fordert deshalb strengere Regeln, mehr externe Kontrolle und einen verbindlichen Ethikkodex für KI-Systeme. Unternehmen dürften KI nicht primär für Profit oder Macht entwickeln. Besonders deutlich wird der Papst beim militärischen Einsatz von KI. Dort fordert er strenge ethische Grenzen für autonome Systeme und Fernkriegsführung und betont: Maschinen dürften niemals eigenständig über Leben und Tod entscheiden.

A more moral AI is not enough if that morality is determined by a few. It is not enough to invoke ethics in the abstract. There is a need for solid legal frameworks, independent oversight, informed users and political systems that do not abdicate responsibility,

so der Papst. Dass Leo XIV. die Enzyklika persönlich im Vatikan präsentierte, zeigt, welches Gewicht er dem Thema beimisst. Papst Leo XIV. verweist mit seinem Namen auf Papst Leo XIII., der Ende des 19. Jahrhunderts auf die Folgen der industriellen Revolution reagierte. Damals ging es um Fabrikarbeit, soziale Ungleichheit und die Macht großer Industrien. Heute sieht Leo XIV. ähnliche Risiken durch KI und große Tech-Konzerne. Der SPIEGEL spricht davon, dass der Papst KI zu einem zentralen Thema seines Pontifikats mache. Die taz bezeichnet die Enzyklika als Ausdruck eines „heiligen Misstrauens gegen KI“.

„We need more of the world to take this seriously“: Anthropic stimmt dem Papst zu

Bei der Vorstellung der Enzyklika sprach auch Christopher „Chris“ Olah, Mitgründer des KI-Unternehmens Anthropic und einziger Vertreter eines großen KI-Unternehmens bei der Präsentation im Vatikan. Nutzer:innen wie @RhysSullivan auf X interpretierten Olahs Aussagen als ungewöhnlich offene Kritik an der eigenen Branche.

i did really appreciate this framing of what ai is https://t.co/XBTAJWfsOx pic.twitter.com/8mJ4gCENcV

— Rhys (@RhysSullivan) May 25, 2026

Er warnte im Vatikan vor einer realen Möglichkeit, dass KI menschliche Arbeit in großem Umfang verdrängen könne. Gleichzeitig stünden selbst sicherheitsorientierte KI-Unternehmen zunehmend unter wirtschaftlichem und geopolitischem Druck, der teilweise im Konflikt mit gesellschaftlichen Interessen geraten könne. Auch das Unternehmen Anthropic operiere innerhalb von Anreizsystemen und Zwängen, die teilweise im Konflikt damit stehen könnten, „das Richtige zu tun“, erklärte Olah und forderte:

We need more of the world—religious communities, civil society, scholars, governments, and indeed all people of good will—to do what His Holiness has done here: to take this seriously, to look closely, and to push events in a better direction. We need informed critics who will tell the labs when we are failing. We need moral voices that the incentives cannot bend.

Als besonders kritisch bezeichnete Olah drei Bereiche: mögliche Massenarbeitslosigkeit durch KI, die ungleiche globale Verteilung der wirtschaftlichen Vorteile sowie die ungelöste Frage, wie das zunehmend komplexe Verhalten moderner KI-Systeme überhaupt interpretiert werden könne.

Bei der Präsentation im Vatikan war Olah zwar der einzige Vertreter eines großen KI-Unternehmens auf der Bühne. Papst Leo XIV. hatte sich laut einem Bericht von Politico im Vorfeld der Veröffentlichung der Enzyklika jedoch bereits mit Vertreter:innen von Amazon, Meta und Google getroffen. Hinweise auf ein vergleichbares Treffen mit OpenAI gibt es bislang nicht.

---

I/O 2026:
Neues KI-Suchfeld läutet eine neue Google Search-Ära ein

---

Neben Anthropics Olah: So reagiert die Tech-Welt auf das KI-Manifest des Papstes

Während Teile des Silicon Valley die Enzyklika als wichtigen moralischen Beitrag zur KI-Debatte feiern, reagieren andere mit Kritik. Business Insider sammelte zahlreiche Stimmen aus Tech, Politik und Wissenschaft. Auch der SPIEGEL-Bericht zeigt, wie die Reaktionen auf die Enzyklika innerhalb der Tech- und Wissenschaftswelt ausfallen.

Zustimmung aus KI-Forschung und Teilen der Tech-Welt

Unterstützung bekommt der Papst etwa vom kanadischen KI-Forscher Yoshua Bengio, einem der bekanntesten KI-Wissenschaftler weltweit und häufigen Befürworter strengerer KI-Regulierung. Bengio erklärte auf X, globale Institutionen wie der Vatikan müssten eine größere Rolle in der öffentlichen KI-Debatte spielen. Der US-Autor und Investigativjournalist Gerald Posner bezeichnete die Enzyklika auf X humoristisch als „Jesus AI“ und würdigte das Dokument als historischen Versuch des Vatikans, Leitplanken für KI und Silicon Valley zu formulieren. Allerdings zeigte sich Posner skeptisch, ob die Techbranche sich davon tatsächlich bremsen lasse. Aus seiner Erfahrung werde Silicon Valley die eher allgemeinen Sicherheitsforderungen des Papstes vermutlich „überrennen“.

Jesus AI just dropped. Or at least what it would look like if the Pope, instead of Elon Musk, had created Grok.

First American Pope Leo XIV’s groundbreaking encyclical Magnifica Humanitas (Magnificent Humanity) calls for robust AI regulation to safeguard human dignity. It’s… pic.twitter.com/TODmGWiEKX

— Gerald Posner (@geraldposner) May 25, 2026

Paolo Carozza, Rechtsprofessor an der Notre Dame Law School und Vorsitzender des Meta-Aufsichtsgremiums, bezeichnete das Dokument als potenziell „wegweisend für unsere Zeit“ und erklärte:

Pope Leo speaks with a clear, comprehensive and coherent voice and calls us to take responsibility for shaping a world in which technology serves the human person rather than degrading human dignity.

Taylor Black, KI-Manager bei Microsoft und Direktor des KI-Instituts der Katholischen Universität Amerika, erklärte, das Dokument könne Menschen „an der Spitze dieser Technologien“ dazu bringen, sich grundlegende Fragen zu stellen wie: „Was bedeutet es, Mensch zu sein?“

Kritik aus dem Trump- und Silicon-Valley-Umfeld

David Sacks, Tech-Investor, Trump-Unterstützer und ehemaliger KI- und Krypto-Berater im Umfeld der Trump-Regierung, teilte zwar die Sorge des Papstes, dass KI nicht zu „Dominanz oder Ausgrenzung“ führen dürfe. Gleichzeitig warnte er jedoch davor, Regierungen unter dem Vorwand von Sicherheit zu viel Kontrolle über KI-Entwicklung zu geben. Das Risiko sieht Sacks weniger bei den Tech-Unternehmen als bei staatlicher Überwachung, Zensur und politischer Kontrolle digitaler Systeme. Offen widersprochen hat dem Papst auch Blake Scholl, Gründer des US-Luftfahrtunternehmens Boom Supersonic und Vertreter eines stark technologieoptimistischen Silicon Valley-Kurses. Die Sorge vor Arbeitsplatzverlusten durch KI bezeichnete er auf X als „bad take“. Technologische Revolutionen hätten schon immer alte Jobs verdrängt und gleichzeitig neue geschaffen.

Als Nachfolger des verstorbenen Papstes Franziskus ist Leo XIV. seit Mai vergangenen Jahres im Amt und zugleich der erste US-Amerikaner an der Spitze der katholischen Weltkirche.

---

Stelle OnlineMarketing.de als bevorzugte Quelle auf Google ein

Wenn du OnlineMarketing.de auf Google als bevorzugte Quelle einstellen möchtest, um auch in den Schlagzeilen auf Google immer aktuelle News und Tipps aus der Welt des Marketing und der Tech-Entwicklungen zu finden, kannst du einfach die Google-Quelleneinstellungen aufrufen und die Seite anwählen. Über das Stern-Icon neben den Top Stories kannst du ebenfalls bevorzugte Quellen für die spätere Suche speichern.