Als Papst Leo XIV. am Montag seine erste Enzyklika mit dem Titel Magnifica Humanitas vorstellte, wirkte der Titel auf den ersten Blick wie ein weiterer Baustein in der endlosen Debatte um KI-Regulierung. Das Dokument soll den „Schutz der menschlichen Person im Zeitalter der künstlichen Intelligenz“ sicherstellen. Doch wer die 200 Seiten liest, erkennt schnell: Der Papst nutzt KI lediglich als Aufhänger für eine weitreichendere, systemische Kritik. Es geht um Macht, Ungleichheit und die schleichende Aushölung der Demokratie durch eine kleine technologische Elite.
KI als Verstärker alter Probleme
Das zentrale Argument der Enzyklika ist so simpel wie treffend: KI ist nicht die Ursache unserer gesellschaftlichen Fehlentwicklung, sondern ihr radikaler Verstärker. Leo XIV. schreibt, dass Technologien, die von einer kleinen Elite entwickelt und gesteuert werden, per Definition nicht dem Gemeinwohl dienen können. Wenn sich Macht in den Händen weniger konzentriere, werde sie opak und entziehe sich der öffentlichen Kontrolle. Die Folge seien „neue Abhängigkeiten, Ausschlüsse, Manipulationen und Ungleichheiten“.
Besonders deutlich wird dies im Hinblick auf die asymmetrische Verteilung von Ressourcen. Jeder große technologische Sprung verstärke ohnehin ohnmächtige Akteure – KI hebe diesen Effekt jedoch auf eine neue Skala. Wer bereits über wirtschaftliche Ressourcen, Fachwissen und Datenzugriff verfügt, kann seine Macht weiter zementieren. Die Fähigkeit, Informationen und Konsummuster zu steuern, demokratische Prozesse zu beeinflussen und Wirtschaftsdynamiken in die eigenen Hände zu lenken, wird durch leistungsstarke Algorithmen auf Steroide gesetzt.
Ein historischer Echo-Raum
Die Kritik des Papstes ist nicht gänzlich neu. Schon 1891 wandte sich Papst Leo XIII. in Rerum Novarum gegen die Machtkonzentration der Industriellen Revolution. Doch die Parallelen zur Gegenwart sind unübersehbar. Wenn Elon Musk Twitter übernimmt, um das politische Diskursfeld zu verschieben, oder wenn Tech-Milliardäre via Super PACs massiv gegen KI-Regulierungen lobbyieren, dann zeigt sich genau das Muster, das Leo XIV. angreift.
Brisanter wird die Enzyklika durch den aktuellen politischen Kontext in den USA. Nur wenige Tage vor der Veröffentlichung hatte US-Präsident Donald Trump auf Drängen von VC-Investor und ehemaligen KI-Zaren David Sacks die Unterzeichnung einer Executive Order verschoben, die eine staatliche Aufsicht über neue KI-Modelle vor deren Veröffentlichung vorgesehen hätte. Genau diese fehlende öffentliche Aufsicht kritisiert der Papst scharf.
Ende des KI-Wettrüstens
Konkret fordert Leo XIV. ein Ende des aktuellen KI-Wettrüstens. Der endlose Drang nach immer größeren Datensätzen und leistungsstärkeren Algorithmen, angetrieben von geopolitischem und kommerziellem Dominanzstreben, sei gefährlich. „Abrüsten“, so der Papst, bedeute, die Annahme zu diskreditieren, dass technische Macht automatisch das Recht zur Regierung verleihe. Ein Satz, der wie ein direkter Pfeil auf den technokratischen Größenwahn im Silicon Valley wirkt.
Bemerkenswert ist auch, wem der Papst bei der Präsentation zur Seite stand: Chris Olah, Mitbegründer von Anthropic. Das Unternehmen, das für sein „Constitutional AI“-Konzept und Sicherheitsforschung bekannt ist, repräsentiert zwar den Versuch, KI ethisch auszurichten – steht aber gleichzeitig für die enorme Kapital- und Rechenleistungskonzentration, die der Papst kritisiert. Diese spannungsreiche Partnerschaft verdeutlicht das Dilemma der Branche: Diejenigen, die KI sicherer machen wollen, gehören derselben Elite an, die die Macht konzentriert.
Bedrohung der kognitiven Freiheit
Paolo Carozza, Professor an der Notre Dame Law School, Mitglied der Päpstlichen Akademie der Sozialwissenschaften und Vorsitzender des Meta Oversight Board, bringt die Gefahr für die Demokratie auf den Punkt. KI-gestützte Desinformation und Deepfakes hätten die Fähigkeit zersetzt, Wahrheit von Lüge zu unterscheiden – mit direkten Konsequenzen für die demokratische Politik. Noch gravierender ist jedoch die Praxis der Tech-Industrie, menschliche Daten zu „ernten“ und zu manipulieren. Dies stellt laut Carozza eine „grundlegende Herausforderung für die kognitive Freiheit“ dar.
Genau hier liegt der eigentliche Mehrwert der Enzyklika: Sie verlagert die Debatte von reinen technischen Fragen der KI-Sicherheit hin zu fundamentaleren menschenrechtlichen und gesellschaftlichen Problemen. Es geht nicht darum, ob ein Algorithmus halluziniert, sondern darum, ob wir als Gesellschaft noch die Kontrolle über unsere kognitiven und demokratischen Prozesse besitzen.
Fazit: Magnifica Humanitas ist kein KI-Papier, sondern ein politisches Manifest gegen die Technokratie. Der Papst erinnert uns daran, dass die surreale Macht heutiger KI-Systeme vor allem die Stakes für die alten Probleme der Menschheit drastisch erhöht. Die Frage ist nicht, was KI mit uns macht, sondern was die wenigen, die KI kontrollieren, mit dem Rest der Gesellschaft tun werden – wenn wir es nicht verhindern.
Quelle: TechCrunch