Papst veröffentlicht Enzyklika zu Künstlicher Intelligenz

Bei der Vorstellung im Vatikan war der Papst selbst dabei - das gab es nach Angaben der katholischen Kirche noch nie. Der erste Pontifex aus den USA hatte sich in den vergangenen Monaten mehrfach schon zum Thema KI geäußert - sowohl zu deren Chancen als auch zu den Risiken.

Papst warnt vor Risiken für Menschenwürde und soziale Gerechtigkeit

Der Papst sieht in der digitalen Wirtschaft und dem Einsatz Künstlicher Intelligenz erhebliche Risiken für Menschenwürde und soziale Gerechtigkeit. Hinter scheinbar "immateriellen" KI-Systemen stehe eine Kette von Ausbeutung und Abhängigkeit. "Nichts ist in der Welt der KI immateriell oder magisch", heißt es in dem Text. Jede digitale Leistung beruhe auf der oft unsichtbaren Arbeit von Millionen Menschen.

Kritisiert wird insbesondere die Ausbeutung in globalen Liefer- und Datenketten, etwa durch schlecht bezahlte Datenarbeit oder gefährliche Rohstoffgewinnung. "Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt", heißt es drastisch. Auch Menschenhandel im digitalen Raum wird thematisiert, bei dem Menschen zu "Daten" und "Paketen" degradiert würden. Wenn Technologie Emanzipation verspreche, aber neue Abhängigkeiten schaffe, widerspreche sie der Menschenwürde, heißt es.

Zugleich wird eine klare Abgrenzung zur menschlichen Intelligenz betont: KI könne zwar "Sprache, Verhalten und Beurteilungen imitieren", besitze aber kein Bewusstsein, kein moralisches Gewissen und verstehe weder "Liebe, Arbeit, Freundschaft und Verantwortung". Weiter heißt es, KI dürfe nicht als neutral betrachtet werden: "Wir können KI nicht als moralisch neutral betrachten", hieß es in der Enzyklika. Jedes System enthalte Entscheidungen darüber, was es misst, ignoriert oder bewertet. Der Papst fordert daher klare Verantwortung und Kontrolle bei Entwicklung und Einsatz von KI-Systemen, um Menschenwürde und Gemeinwohl zu schützen.

Zugleich wird vor der Versuchung gewarnt, angesichts globaler Probleme in Resignation zu verfallen. Auch wer scheinbar wenig Einfluss habe, trage Verantwortung. Entscheidend sei, ob Menschen die Logik der Gewalt - etwa durch Gleichgültigkeit oder Hass - stärken oder der Logik des Friedens folgen. Internationale Organisationen und Diplomatie seien zentrale Instrumente zur Konfliktlösung. Dialog und multilaterale Zusammenarbeit seien unverzichtbar, um Krisen zu verhindern und Vertrauen wieder aufzubauen. Besonders hervorgehoben werden dabei Worte und Kommunikation: Diese könnten spalten oder versöhnen. Daher gelte es, Sprache bewusst und verantwortungsvoll zu nutzen und Konflikte nicht rhetorisch zu verschärfen.

Abschließend wird eine theologische Perspektive betont: Der Mensch sei berufen, Verantwortung zu übernehmen und Hoffnung aktiv in der Welt zu leben - auch in Zeiten technischer und gesellschaftlicher Umbrüche.

Leo nimmt Bezug auf Sozialenzyklika seines Namensvetters

Bei der Vorstellung der Enzyklika nahm neben hochrangigen Kardinälen und Theologen auch der Mitgründer des KI-Konzerns Anthropic, Chris Olah, teil - auch das ein Novum bei der Vorstellung einer Enzyklika. Das Unternehmen mit Sitz in San Francisco liegt im Streit mit der US-Regierung unter Präsident Donald Trump, weil es seine KI-Modelle nicht in autonomen Waffensystemen und zur Überwachung der Zivilbevölkerung zur Verfügung stellen will. Trump hatte sowohl Anthropic als auch den Papst zuletzt mehrfach kritisiert.

Die Enzyklika trägt das Datum 15. Mai. An diesem Tag war es genau 135 Jahre her, dass Leos Namensvetter Leo XIII. seine Enzyklika "Rerum novarum" ("Über die neuen Dinge") veröffentlichte. Damit legte der "Arbeiterpapst" die Grundlagen für die katholische Soziallehre infolge der industriellen Revolution.