Papst Leo XIV hat zur „Entwaffnung“ der künstlichen Intelligenz (KI) aufgerufen und gewarnt, dass „neue Formen der Sklaverei“ mit deren Aufstieg verbunden seien, as Der Katholikenchef äußerte dies in seiner ersten Enzyklika mit dem Titel „Magnifica Humanitas“ (Majestätische Menschlichkeit) bei einer Präsentation im Vatikan. Enzykliken gelten als eine der höchstrangigen Lehren eines Papstes an die 1,4 Milliarden Mitglieder der katholischen Kirche.

Ein Appell an die Politik

Leo betonte, dass die Daten der KI nicht allein in private Hände fallen dürfen. Er forderte Politiker auf, die Rechte der Arbeitnehmer zu schützen und Kinder vor der Technologie abzusichern. Zudem rief der Papst zu einer Reduzierung des Wettbewerbs zwischen KI-Unternehmen auf. „Was nötig ist, ist eine aktive politische Beteiligung, die es vermag, alles zu verlangsamen, wenn alles beschleunigt wird“, sagte Leo bei der Präsentation.

Der katholische Führer forderte zudem „solide Rechtsrahmen, unabhängige Aufsicht, informierte Nutzer und ein politisches System, das seine Verantwortung nicht aufgibt“. Er betonte, dass KI „entwaffnet“ werden müsse und von Logiken befreit werden solle, die sie zu einem Instrument der Herrschaft, Ausgrenzung und des Todes machen. „Wie Atomenergie muss sie dem Wohlergehen aller dienen“, sagte er.

Kooperation mit KI-Experten

Die am Montag veröffentlichte Enzyklika umfasst fast 43 000 Worte und ist seit etwas mehr als einem Jahr im Entstehen. Der Papst stellte das Dokument gemeinsam mit KI-Experten vor, darunter Christopher Olah, Mitgründer des US-Konzerns Anthropic. Anthropic ist derzeit in einen Rechtsstreit mit der US-Armee verwickelt, nachdem das Unternehmen die Verwendung seiner Technologie für tödliche autonome Kriegsführung und Massenüberwachung abgelehnt hat.

Bei der Präsentation sagte Olah, KI-Unternehmen arbeiteten „innerhalb eines Satzes von Anreizen und Einschränkungen, die manchmal im Widerspruch zu dem stehen, was richtig ist“. Er begrüßte Eingriffe von außen wie die der katholischen Kirche, um „die Dinge in eine bessere Richtung zu lenken“. Er betonte, dass „die von KI aufgeworfenen Fragen größer sind als die KI-Forschergemeinschaft“.

Olah hob drei Bereiche hervor, die seiner Meinung nach dringend Aufmerksamkeit benötigen: das Risiko von Massenarbeitslosigkeit, die Notwendigkeit, sicherzustellen, dass die Vorteile der KI weltweit zugänglich sind, und die ungeklärte Frage, wie sich immer komplexer werdendes und manchmal undurchsichtiges Systemverhalten interpretieren lässt.

Kritik an KI im Krieg

In der Enzyklika kritisierte Leo auch KI-gesteuerte Waffen. Er stellte klar, dass es „nicht erlaubt ist, tödliche Entscheidungen der Technologie zu überlassen“. Der Papst hat sich wiederholt mit der Weißen Haus-Administration über den Krieg der USA gegen den Iran und dessen religiöse Begründung gestritten. Leo kritisierte die „gerechten Krieg“-Theorie, die von der Regierung von US-Präsident Donald Trump vertreten wird, als „veraltet“. Er fügte hinzu, dass „kein Algorithmus Krieg moralisch rechtfertigen kann“.