Papst warnt vor einer Entmenschlichung durch KI

Selten bin ich so einig mit dem Papst wie heute. Seine Stellungnahme zu KI und zu der Rolle der Menschheit ist essenziell. Zu oft höre ich voreigenommene Statements, wie wichtig dass KI für den Fortschritt sei und wie sehr der Wohlstand der Menschheit davon abhängt. Beim genaueren Hinsehen verstecken sich hinter diesen trügerischen Verheissungen allerdings Partikularinteressen von Herstellern und Anbietern. Künstliche Intelligenz - und das schleckt keine Geiss weg - ist in erster Linie ein Geschäftsmodell, das astronomische Renditen verspricht.

Wenn Papst Leo in die Diskussion eingreift, mag das auf den ersten Blick befremden oder gar amüsieren. Wer über den Tellerand hinausdenkt, weiss, wie richtig und wichtig die Botschaft aus Rom ist. Blauäugig ist, wer darüber lacht. Bei den meisten Menschen läuten schon längst die Alarmglocken.

Päpstliche Kritik

Die Botschaft des Papstes richtet sich nicht primär gegen die Technologie selbst. Vielmehr stellt Leo XIV. die Frage, welche Rolle der Mensch in einer zunehmend automatisierten und datengetriebenen Welt künftig noch einnimmt. KI dürfe nicht dazu führen, dass menschliche Entscheidungen, Verantwortung oder zwischenmenschliche Beziehungen an Maschinen delegiert würden. Gerade im digitalen Raum bestehe die Gefahr, dass Effizienz wichtiger werde als Menschlichkeit.

Besonders kritisch äussert sich der Papst zur Macht grosser Technologieplattformen und KI-Konzerne. Wenige Unternehmen verfügten heute über enorme Datenmengen, Rechenleistung und Einfluss auf Informationsflüsse. Dadurch entstehe eine neue Form digitaler Machtkonzentration. Algorithmen beeinflussten zunehmend, welche Informationen Menschen konsumieren, wie Meinungen entstehen oder wie gesellschaftliche Debatten geführt werden. Damit berührt die Enzyklika zentrale Fragen der digitalen Souveränität und demokratischen Kontrolle.

Wo bleibt der Mensch?

Der Vatikan warnt zudem davor, dass KI-Systeme den Menschen schrittweise ersetzen könnten – nicht nur in operativen Tätigkeiten, sondern auch in kreativen, sozialen und intellektuellen Bereichen. Wenn Maschinen schreiben, analysieren, entscheiden oder kommunizieren, stelle sich zwangsläufig die Frage nach Authentizität, Verantwortung und Vertrauen. Der Mensch dürfe nicht auf eine reine Kontrollfunktion reduziert werden.

Besonders deutlich wird die Enzyklika beim Thema autonome Systeme. Entscheidungen über Sicherheit, Überwachung oder gar militärische Einsätze dürften nicht vollständig an künstliche Systeme übertragen werden. Der Papst fordert klare Grenzen für autonome KI-Anwendungen und spricht sich gegen Technologien aus, welche menschliche Verantwortung aushebeln.

Kultureller Wendepunkt

Damit greift Leo XIV. viele Themen auf, welche derzeit auch in Unternehmen intensiv diskutiert werden. Fragen rund um AI Governance, Datensouveränität, Transparenz oder regulatorische Vorgaben beschäftigen CIOs und IT-Verantwortliche zunehmend. Gerade generative KI zeigt exemplarisch, wie stark digitale Technologien mittlerweile in Kommunikation, Wissensarbeit und Entscheidungsprozesse eingreifen.

Bemerkenswert ist zudem der grundsätzliche Ton der Enzyklika. Der Papst beschreibt KI nicht nur als technologische Innovation, sondern als kulturellen Wendepunkt. Ähnlich wie die Industrialisierung einst Wirtschaft und Gesellschaft grundlegend veränderte, könne KI nun das Verhältnis zwischen Mensch, Arbeit, Wissen und Macht neu definieren.

Für die ICT-Branche ist die Botschaft deshalb durchaus relevant. Die Debatte über KI dreht sich längst nicht mehr nur um Produktivität, Automatisierung oder neue Geschäftsmodelle. Zunehmend geht es um die Frage, wie digitale Systeme gestaltet werden müssen, damit der Mensch im Zentrum bleibt – und nicht zum Anhängsel seiner eigenen Technologie wird.