Der Papst gegen die KI: Warum „Magnifica Humanitas“ die Tech-Welt nervös macht – scobel

Shownotes

Kann Künstliche Intelligenz urteilen oder nur simulieren? In seiner neuen Enzyklika „Magnifica Humanitas“ stellt Papst Leo XIV eine der entscheidenden Fragen unserer Zeit: Was bleibt vom Menschen, wenn Algorithmen immer mehr Entscheidungen übernehmen? Es geht um KI, Menschenwürde, Urteilskraft, Datenmacht, digitale Sklaverei, autonome Waffen und die Versuchung, den Menschen nur noch als optimierbares System zu betrachten.

Wir ordnen die päpstliche KI-Enzyklika philosophisch, theologisch und gesellschaftlich ein: von Aristoteles, Kant und Hannah Arendt über Bernard Lonergan bis zu aktuellen Debatten um Transhumanismus, KI-Ethik, Big Tech und die politische Macht von Daten. Die zentrale These: KI ist keine neutrale Technik. Sie trägt Werte, Interessen und Machtstrukturen in sich und genau deshalb reicht es nicht, nur über Effizienz, Innovation und Fortschritt zu sprechen.

Was bedeutet es, wenn KI Empathie simuliert, aber keine Beziehung eingeht? Wenn Algorithmen über Chancen, Rechte, Reputation oder sogar Krieg entscheiden? Und warum schweigt die Tech-Branche auffällig laut, wenn eine globale moralische Institution Grenzen für Künstliche Intelligenz formuliert?

📅 Neue Ausgaben immer donnerstags, 19 Uhr.

👇👇👇

0:00 👉 Intro
0:09 👉 Papst Leos Enzyklika
5:52 👉 Zum Inhalt von ,,Magnifica Humanitas"
9:26 👉 Die wesentlichen Thesen
16:40 👉 Die Einordnung

👇👇👇

TEXTE:
https://www.vatican.va/content/leo-xiv/de/encyclicals/documents/20260515-magnifica-humanitas.html#Das_wahre_more_than_human:_Gnade_und_christlicher_Humanismus

https://futurium.ec.europa.eu/en/apply-ai-alliance/community-content/two-magnificences-secular-response-magnifica-humanitas

REACTIONS:
https://thecatholicherald.com/article/reactions-to-magnifica-humanitas-reveal-anxieties-of-the-ai-age

https://www.ncregister.com/commentaries/rocca-vatican-diary-on-magnifica-humanitas-launch

https://futurium.ec.europa.eu/en/apply-ai-alliance/community-content/two-magnificences-secular-response-magnifica-humanitas

👇👇👇

Moderation, Recherche & Skript: Gert Scobel

Zeichnungen: Claus Ast

Eine Produktion der probono Fernsehproduktion GmbH: Anja Görner, Friedrich Küppersbusch, Jürgen Ohls, Kim Plettemeier, Maxie Römhild und René Fischell

Mit Unterstützung von: Alexander Hollmer, Annluise-Sophie Schröter, Arne Clasvogt und Pascal Hadré

Finanziert wird dieser Kanal vom gemeinnützigen AVE Institut für Achtsamkeit, Verbundenheit, Engagement (🔗 https://ave-institut.de/).

👇👇👇

Fragen und Anregungen gerne jederzeit per Mail an scobel@probono.tv.
Und Tschüss.
#scobel

Transkript anzeigen

00:00:00: Thema dieser Ausgabe ist die neuste Edition der erfolgreichen Serie Entzykliken aus dem Vatikan.

00:00:05: Thema diesmal, es geht um das päpstliche Rundschreiben zum Thema KI.

00:00:21: Das Wort Enzyklika leitet sich ab von en kyklios übersetzt was im Kreis herumgeht und gemeint ist natürlich der Erdkreis oder natürlich in erster Linie der kreis allergläubigen zu dem Pi mal Daumen, etwa eine Million Katholiken gehören.

00:00:37: Zählt man die evangelischen Orthodoxen und übrigen Christen dazu?

00:00:40: Die ja vielleicht als Lesepublikum in Frage kommen, addiert sich das aufgrund... zwei Komma fünf Milliarden, also ein knappes Drittel der Weltbevölkerung immerhin.

00:00:50: Das katholische Lehramt repräsentiert durch die höchste Autorität den Papst äußert sich deshalb hin und wieder in solchen Entzüglichen.

00:00:57: Man könnte sagen in verbindlichen Firmenrundens schreiben oder Texten nach dem Reinheitsgebot aus der Zentrale des rechten Glaubens.

00:01:03: Die erste Enzykliker stammt aus dem Jahre siebzehnhundertvierzig, also eigentlich eine späte Entwicklung, die erst deutlich nach der Erfindung der Druckerpresse einsetzte.

00:01:15: verfasst Tom amtierenden Papst Leo XIV.

00:01:17: Zitiert werden die Lehrschreiben normalerweise nach den ersten lateinischen Worten und jetzt gibt es eine Besonderheit, sucht man nämlich auf der Seite des Vatikans.

00:01:25: Nach dieser lateinische Urfassung der Enzykliker findet man erstaunlicherweise zwar alle Entzykliken der Vorgänger auf Latein aber die neueste nicht als einzige dafür in allen möglichen Sprachen einschließlich arabisch Aber kein Latein!

00:01:40: Dennoch hat sie den Titel Magnifika Humanitas also übersetzt herrliche Menschlichkeit.

00:01:45: Mit dem Untertitel über die Bewahrung des Menschen im Zeitalter der künstlichen Intelligenz und wie KI vom Papst ins Latanische übersetzt würde, das bleibt leider weil es keine latanische Version gibt eine offene Frage.

00:01:59: Die Idee zu dieser Ausgabe gab mir einen evangelischer Theologe den ich sehr schätze Ingolf Dalfert Religionsphilosoph und lange Jahre Professor für Systematische Theologie, Symbolik und Religionsphilosophie an der Universität Zürich.

00:02:12: Woher Direktor des Instituts Ferme Neutig- und Religionphilosofie war er dann in dem Jahr Professor of Philosophy of Religion in Kalifornien wurde.

00:02:22: Ich traf Ihnen zu einer Diskussion über die Frage, wie sich unsere menschliche Urteilskraft – zu der von KI-Systemen verhält ein Symposium an letztlich des hundertfünfzigjährigen Bestehens der theologischen Literaturzeitung.

00:02:36: Dalfert meinte, dass der Papst geboren ist in Chicago also eine Hochburg der Religionsphilosophie habe das Leerschreiben nach der Methodik des berühmten kanadischen Theologen und Jesuiten Bernard Lonergan konzipiert.

00:02:49: Lonergen betrachtete sein, wie ich finde sehr ambitioniertes und bemerkenswert philosophische Programm als eine Zitat für Allgemeinerung der empirischen Methode – Generalization of Empirical Method.

00:03:03: Kurz G-I-M.

00:03:05: Und dazu gehören nicht nur Sinnesdaten sondern in guter kanthischer Tradition auch die inneren Muster und Daten unseres Bewusstseins.

00:03:15: Denn das was wir in der sogenannten Objektiven Wirklichkeit erkennen, erkennen wir nur durch das übliche Verfahren.

00:03:23: Das heißt, wir erkennen es nur weil ihr, weil wir Bewusstsein haben und Subjekte sind!

00:03:28: Und das setzt also ein bewusstes Erleben voraus, ein Bewusstsein auf dem das Erkennen der Realität überhaupt beruht.

00:03:34: Insofern ist Methode nie nur ein kalter Algorithmus den ich anwende sondern immer ein konkretes empirisches Handlungsmuster auch und das läuft nach Lonegin in vier Dimensionen oder Stufen ab.

00:03:45: Vier Grundsätzen die er auch transzentrale Gebote nannte.

00:03:49: diese sind be attentive sei aufmerksam.

00:03:51: Das bedeutet liest die Zeichen der Zeit Foucault hätte gesagt sagen was isst.

00:03:57: Und das bedeutet einen Blick auf die KI, die Vorteile ebenso zu sehen wie die negativen Effekte.

00:04:02: Die Leid verursachen etwa in Form der neuen digitalen Sklaverei oder Arbeitslosigkeit.

00:04:07: und genau das be attentive macht die Enzykliker.

00:04:10: Zweitens Be intelligent!

00:04:13: Wie man auch immer jetzt Intelligenz also... Intelligence übersetzen will.

00:04:17: Mein Favorit sei klug und dazu gehört, die kulturellen, anthropologischen, ökonomischen Wurzeln all dieser Veränderungen zu ergründen, die mit KI zu tun haben und die KI mit sich bringt einschließlich eines Verständnisses zum Beispiel von sogenannten transhumanistischen, posthumanistischen Narrativen und deren Kritik.

00:04:36: Das dritte Prinzip lautet be reasonable also Frei übersetzt nach Kant, benutze deinen Verstand oder genauer deine Urteilskraft.

00:04:45: Loddagen benutzte diesen deutschen Begriff Urteilskraft der gerade mit Blick auf die ungeheure Leistungsfähigkeit von KI-Systemen in eine tiefere philosophische Diskussion führen würde.

00:04:56: Denn die Frage ist ja was macht eigentlich unsere menschliche Urteillskraft aus?

00:05:01: Was ist das Besondere daran?

00:05:03: Lässt sie sich simulieren lässt es sich kopieren ersetzen.

00:05:06: Das vierte Kriterium nach dieser an Wahrheit orientierten Urteilskraft heißt, viertens also be responsible.

00:05:14: Also sei verantwortungsbewusst zum Beispiel hinsichtlich der ökonomischen und politischen Folgen deines Gebrauchs von KI oder Technokratie usw.

00:05:24: Und dann gibt es da noch eine fünfte Dimension die manchmal zu Lonegan hinzugefügt wird, manchmal auch weggelassen wird Be in love das heißt Denke und Handle aus einer Zivilisation der Liebe aus einer Kultur, der Liebe heraus.

00:05:39: Und diese Dimension führt dann tatsächlich weiter in eine theologische Dimension – eine religious conversion wie Lonegan sagt und das ist dann der Überstieg in die gottgeschenkte Liebe und eigentlichtheologische Diskussion.

00:05:55: Zum Inhalt von Magnifika Humanitas

00:05:58: Die Enzückliker umfasst zweihundertvierzig Paragrafen und wäre damit selbst für ein langes Video deutlich zu lange zu viel.

00:06:06: Was in meiner Wahrnehmung jedoch auffällt, ist die zentrale Verwendung des Begriffes des Urteilsvermögens und der Urteilskraft.

00:06:14: Der die Enzyklika tatsächlich in die Nähe nicht nur von Lonergan sondern auch von Aristoteles Kant und Hannah Arendrückt also den drei großen Denkerinnen, die in der westlichen Philosophie Geschichte maßgeblich die menschliche Urteillskraft zum Thema gemacht haben und auch analysiert haben.

00:06:30: In meinen Augen ist bislang unklar, was menschliche Urteilskraft wirklich ausmacht und was sie von der Urteilskraft von KI-Systemen, falls die überhaupt existiert tatsächlich unterscheidet.

00:06:42: Ansonsten hat der Papst und haben seine theologischen Mitarbeiter vieles sehr gut und sehr genau beobachtet.

00:06:48: Das fällt positiv auf, also die Beobachtung mischt sich dann jeweils mit einer kritischen Einordnung.

00:06:54: eines von vielen Beispielen dafür wäre Paragraf hundert das schreibt der Papster.

00:06:59: auch der private Gebrauch von KI natürlich zugenommen hat.

00:07:02: Dafür werden drei Gründe angeführt Zitat Die Leichtigkeit mit der Ergebnisse erzielt werden Der Eindruck von Objektivität und die Simulation menschlicher Kommunikation.

00:07:14: Das leuchtet allen, denn die Schnelligkeit, die Einfachheit mit der es möglich ist, Informationen komplexe Analysen, Medieninhalte

00:07:21: usw.,

00:07:21: konkrete Hilfestellungen zu erhalten – all das vereinfacht ja bereits unser Leben!

00:07:26: Und weiter heißt es dann All das könne uns – Zitat aber auch daran gewöhnen, zu viel zu delegieren und nach vorgefertigten Antworten zu suchen.

00:07:35: Damit schwächen sie gemeinsam die KI-Systeme das persönliche Urteilsvermögen und die Kreativität.

00:07:41: Der Eindruck von Objektivität den die Antworten und Vorschläge dieser Systeme vermitteln kann uns vergessen lassen dass Sie das kulturelle Wertesystem derjenigen widerspiegeln, die Sie entworfen und trainiert haben mit all Ihren Stärken und Schwächen.

00:07:55: Die künstliche Nachahmung positiver menschlicher Kommunikation, Worte des Rates, des Mitgefühls der Freundschaft und der Liebe kann befriedigend oder sogar hilfreich sein.

00:08:05: Doch bei weniger reflektierten Nutzern kann sie irreführend wirken und die Illusion erwecken, in einer Beziehung mit einem echten persönlichen Subjekt zu stehen.

00:08:14: Wenn Worte simuliert werden, entsteht keine Beziehungen sondern nur der Anschein einer solchen.

00:08:20: Die künstliche Nachahmung einer betreuerischen oder begleitenden Beziehungszeit kann gefährlich werden – wenn Sie sich in einen Kontext einschleicht indem es an echter BeziehUNG und Zuneigung mangelt.

00:08:31: dann besteht nicht so sehr die Gefahr dass eine Person glaubt mit einer anderen Person zu sprechen, sondern dass sie den Wunsch verliert, anderen Personen wirklich zu begegnen.

00:08:41: Dagegen ist tatsächlich nicht viel einzuwenden.

00:08:43: Das hat man auch an anderer Stelle schon gelesen, das Problem ist bekannt wurde vielfach diskutiert.

00:08:48: die Folge ist klar und sie wurde und wird von den Tech-Unternehmen immer wieder in großen Stil missachtet.

00:08:54: Zitat Enzykliker der Einsatz von KI ist niemals eine rein technische Angelegenheit.

00:08:59: wenn sie im Prozesse eingebunden wird die das Leben der Menschen beeinflussen kommt sie mit rechten Chancen gutem Ruf und Freiheit in Berührung.

00:09:08: einem Algorithmus konkret die Macht zu übertragen, zu bestimmen wem etwas zusteht und wem nicht.

00:09:14: Ohne dass noch jemand die Last der Entscheidung trägt bedeutet ihm die Aufgabe zu üvertragen die Grenzen menschlicher Möglichkeiten neu zu definieren.

00:09:24: auch dagegen kann man wenig sagen.

00:09:30: Die wesentlichen Thesen

00:09:32: Ich versuche den Inhalt der gesamten Enzykliker in acht Thesen zusammenzufassen.

00:09:39: KI ist keine neutrale Technik, sondern ein anthropologisches Feld.

00:09:44: KI trägt immer schon Wertentscheidungen ihrer Entwickler, Finanzierer und Regulator in sich.

00:09:50: Und dieses theologische Bild baut Leo der Vierzehnte immer wieder ein, entweder einen Jerusalem oder ein Babel sein.

00:09:58: Also entweder ein guter gemeinschaftlicher Wiederaufbau, der etwas Gutes bewirkt und Gemeinwohl fördert oder ein anmaßender Turmbau der Selbstvergötterung, der mit Zerstörung endet.

00:10:09: Die technokratische Versuchung besteht darin Effizienz zum Maßstab aller Dinge zu machen und damit den Menschen als optimierbares Projekt zu behandeln.

00:10:17: Diese zwei Menschenwürde ist ontologisch und nicht funktional.

00:10:22: Der Mensch verdient seine Würde nicht durch Leistung, Produktivität, Intelligenz oder Funktion sondern sie ist ein Geschenk wie der Papst sagt – Nichtverdienst!

00:10:32: Wenn man das nicht theologisch formuliert.

00:10:34: Menschenwürde ist unableitbar, universal und weder Mittel noch Zweck Und gegen transhumanistische Strömungen die begrenztheit als zu überwindenden Defekt verstehen betont die Enzykliker, dass gerade durch Verletzlichkeit Schmerz und Kontingenz der Mensch reift.

00:10:50: Die Magnifika Romanitas – also die großartige Menschheit oder Menschlichkeit muss immer gesehen werden im dialektischen Zusammenspiel mit einer verwundeten und damit auch leidenden Menschheit.

00:11:02: These drei Daten macht ist eine neue Kapitalfrage.

00:11:05: Algorithmen, Plattformen, Trainingsdaten, Recheninfrastrukturen konzentrieren sich in privaten oft auch transnationalen Händen, nämlich von Unternehmen und Oligarchen.

00:11:15: Die Namen kennt

00:11:16: ihr.".

00:11:17: Damit stellt sich die Sozialentzykliker von Leo XIV bewusst – mit mehrfachen Zitaten genau in die Traditionslinie von Und dessen Enzykliker, die hatte den Titel Rerum Novarum zumal die KI-Enzyklika am fünftzehnten Mai und damit auf dem Tag genau am hundertdreißigsten Jahrestag von Rerom Novarun also der Enzyklerka von Lyodem Dreizehnten veröffentlicht wurde.

00:11:43: Die neue KI-ENZYkliker stellt insofern eine Art Neuauflage der alten Klassenfrage aus Rerommnovarum dar.

00:11:52: Allerdings ist Thema nicht mehr in erster Linie das industrielle Kapital und die Arbeit, wie damals.

00:11:58: Darum geht es allerdings in einem Paragrafen auch, § neunundzwanzig, sondern es geht um das epistemische Kapital, d.h.

00:12:06: Datenmodelle Rechenleistung – und diese sind ungerecht verteilt!

00:12:10: Die allgemeine Bestimmung der Güter muss auf diesen neuen Eigentumsformen ausgeweitet werden.

00:12:16: Tesevier KI hat kein Gewissen und kann auch keins haben.

00:12:20: Die Enzykliker vollzieht eine klare anthropologische Grenzziehung.

00:12:24: KI hat keine Erfahrung, kein Körper, kein Gewissen und keine Liebe.

00:12:28: Sie simuliert zwar Empathie – emotionale Intelligenz, versteht sie aber nicht!

00:12:33: Deshalb dürfen irreversible Entscheidungen also Entscheidungen die man nicht mehr rückgängig machen kann vor allen Dingen im Kontext von Kriegen nicht an autonome Systeme delegiert werden.

00:12:43: Tese V., die Sozialprinzipien der Kirche sind auch Prinzipien der KI.

00:12:48: Governance Prinzipien und Fragestellungen von Gemeinwohl, Solidarität, sozialer Gerechtigkeit usw.

00:12:56: also das was die kirchliche Tradition betont hat sollen müssen sehr konkret auch auf den digitalen Raum angewendet werden.

00:13:03: Das führt beispielsweise zur Forderung nach mehr Transparenz bei Algorithmen demokratischer Kontrolle von Plattformen Schutz von Arbeit und Familie Bekämpfung von Digitaler Sklaverei Diese sechs es gibt neue Sklaverei in der digitalen Lieferkette Die Einordnung und Bewertung von Daten durch Niedriglohnarbeiter, Kinderarbeit in Minen, in denen seltene Erden gefördert werden.

00:13:26: Menschen handeln über digitale Plattform oder auch die Auslagerungen der Beurteilung und Reglementierung zum Beispiel vom pornografischen Inhalt oder sexuellem Missbrauch im Entwicklungs-Sender.

00:13:38: Die Enzykliker benennen all diese Probleme und bittet ausdrücklich um Vergebung für die historische Komplizenschaft der Kirche bei der alten Sklaverei als Brücke zur Wachsamkeit gegenüber den neuen Formen der Sklaverei.

00:13:53: In Paragraf one hundred seventy heißt es ausdrücklich, Der Kampf gegen die neuen Form des Sklaverei ist eine entscheidende Bewährungsprobe für das ethische Urteilsvermögen in Hinblick auf KI und den digitalen Wandel.

00:14:08: Wenn wir in Zukunft nicht um Vergebung bitten wollen, weil wir dem Schatz der Menschenwürde, der unserem Glauben innewohnt nicht treu geblieben sind.

00:14:16: Dann liegt es jetzt an uns den Menschenhandel in seinen vielfältigen Erscheinungsformen direkt und entschieden anzuprangern und gemeinsam mit all jenen die sich für diese Anliegen einsetzen Schritt-für-Schritt konkrete Maßnahmen zur Prävention zum Schutz zur Befreiung und zur Rehabilitation zu unterstützen.

00:14:35: Das ist ein weitreichender Aufruf und wie gesagt verbunden mit einer Entschuldigung der Kirche in Bezug auf die Formen der Slawerei, die sie lange unterstützt hat.

00:14:45: Stichwort Inquisition.

00:14:47: Tese Sieben, KI und der Krieg.

00:14:49: Autonome Waffensysteme senken die Schwelle für Gewaltanwendung, verschleiern Verantwortung machen Opfer zu Datenpunkten.

00:14:56: Leo XIV fordert verbindliche internationale Regelungen auch in Bezugs auf hybride Kriegsformen und betont, Zitat, Hundert und Neunzig.

00:15:05: Es existiert kein Algorithmus der Krieg moralisch vertretbar machen könnte.

00:15:09: KI mindert nicht die dem bewaffneten Konflikt in eine wohnende Unmenschlichkeit – sie kann ihn lediglich schneller und unpersönlicher machen, die Schwelle für den Rückgriff auf Gewalt senken und Verteidigung in operative Vorhersage verwandeln, wobei Opfer auf Daten reduziert

00:15:26: werden.".

00:15:28: Das wahre More Than Human ist nicht Technologie, sondern Gnade.

00:15:33: Natürlich argumentiert die Enzykliker auch theologisch und aus dem christlichen Glauben heraus – das ist eine solche Stelle –.

00:15:40: entsprechend macht die christliche Tradition gelten, dass der Mensch nicht auf die Grenzen seiner Natur beschränkt ist, sondern dazu berufen sich selbst zu übersteigen und zwar nicht um der Wirklichkeit zur Entfliehen oder Begrenzungen zum Missachten, sondern um Zitat in der Liebe vollendet zu

00:15:57: werden.".

00:15:58: Und dass darüber hinaus kommen, wie sollte es theologisch auch anders sein?

00:16:02: Ist Zitat aus der Gnade Gottes.

00:16:05: Diese Verwandlung ist das Werk des heiligen Geistes.

00:16:08: Der Text bringt damit gegen transhumanistische Versprechen alle Art des theologischen Konzepts Vergötterung in Position, der Mensch überschleigt sich nicht durch technologische Selbstoptimierung sondern durch die Gnade Gottes in Christus.

00:16:24: Das ist die entscheidende christologische also auch theologische Gegentease zur sogenannten Singularitätsvision und kann natürlich.

00:16:33: darüber kann man jetzt entsprechend streiten je nachdem ob man Theologische Argumentation überhaupt akzeptiert oder nicht.

00:16:44: Die Einordnung

00:16:46: Was man durch die Enzykliker lernen kann, ist erstens dass die Kirche offenbar die Diskussion sehr aufmerksam verfolgt.

00:16:53: Davon zeugen auch diverse Treffen mit Wissenschaftlerinnen im Vatikanen.

00:16:58: Die auffälligste Reaktion der Tech-Branche auf die Encykliker war wirklich erstaunlich nämlich stille.

00:17:07: Sam Altman, Elon Musk und Mark Zuckerberg schwiegen alle.

00:17:12: Die großen KI-Konzerne gaben keinerlei Stellungnahme ab.

00:17:15: Und diese kollektive Zurückhaltung ist ja selbst politisch.

00:17:19: ein Widerspruch also gegen die Enzykliker wäre riskant, einerseits andereseits wurde eine Zustimmung Regulierungslogik legitimieren, also den Regierungen auch der amerikanischen signalisieren wir müssen endlich wirklich richtig was tun.

00:17:36: Und aus dem kalifornischen Venture Capital-Obenfeld äußerte sich Eddie Lazarin von Andreessen Horowitz und nannte das Dokument Schwach in der Theologie der künstlichen Intelligenz und dick im wiederholen katholischer Soziallehre und fügte hinzu die Enzyklika wirkt defensiv.

00:17:53: Diese Antwort ist jedoch selbst nichts als eine traditionelle Abwehrreaktion auf Kritik, insbesondere wenn sie aus einer ethischen Richtung kommt.

00:18:01: Bemerkenswerter war dann allerdings der Auftritt und besondere Dank des Papstes an Christopher Ola – und er ist Mitbegründer durch das US-amerikanische Kei-Unternehmens Anthropic über das ich auch hier auf dem Kanal schon gesprochen habe!

00:18:16: Anlesenheit von Ola hatte in den Tagen zuvor bereits für Kontroversen gesorgt.

00:18:20: Warum?

00:18:21: Weil die Konkurrenzunternehmen befürchtet haben, die Nähe zum Papst könne als dessen Unterstützung der Techbranche oder für mehr eines ganz bestimmten Unternehmens gedeutet werden!

00:18:32: In einem Gespräch mit dem Papst angesichts des Launchs von Magnifika Humanitas erklärte Ola Zitat, KI-Systeme sind nicht die kalten berechnenden Roboter, die uns versprochen wurden.

00:18:45: Sie seien eher wie zum Läden erweckte fiktive

00:18:49: Figuren.".

00:18:50: Das finde ich eine sehr interessante Formulierung.

00:18:52: Er und seine Kolleginnen und andere, die die KI Modelle erforschten hätten nämlich Zitat Strukturen entdeckt, die Ergebnisse der menschlichen Neurowissenschaften widerspiegeln.

00:19:03: Wir finden Hinweise auf Selbstreflektion, wir finden innere Zustände, die Freude zur Friedenheit, Angst, Trauer und Unbehagen funktional widerspiegeln.

00:19:13: Na ja, Funktional-Wiederspiegel!

00:19:17: Aber die Idee, KI-Systeme als fiktionale Charaktere zu sehen?

00:19:22: die menschliche Strukturen spiegeln, kommt dem was ich hier auf dem Kanal mehrfach schon gesagt habe relativ nahe müsste aber dann noch mal von den entsprechenden Unternehmen philosophisch weiter untersuchen und reflektiert werden.

00:19:35: Die Medien lesen die Enzykliker jeweils mit ihrer Brille.

00:19:39: Die New York Times kritisierte die Encykliker als enttäuschend milde.

00:19:43: Papst Leo XIV habe es versäumt wirklich radikale institutionelle oder wirtschaftliche Maßnahmen vorzuschlagen.

00:19:49: das Wirtschaftsmagazin Forbes interpretiert Magnifika Humanitas, wie eine Wirtschaft derzeit üblich in apokalyptischen Tönen.

00:19:57: Die Enzykliker warne vor einem Zitat moralisch und sozialen Zusammenbruch und vor einem Turm zu Babel ohne menschliche Kontrolle.

00:20:04: The Guardian meinte die Enzykler sei sympathisch als eine humanity-first Message, die die säkulare Welt unterstützen kann – gemeint es im Kampf gegen unethischen Gebrauch von KI usw.. Und aus dem EU-Governancebereich war von Futurium, das ist eine EU-Plattform zur Diskussion von EU Politik.

00:20:25: Von der sogenannten AI Alliance unter anderem Folgendes zu lesen.

00:20:30: Zum ersten Mal trägt der Schutz des menschlichen Geistes vor kognitiven Drift die Unterstützung einer globalen moralischen Institution neben dem europäischen Regulierungsrahmen und der wachsenden technischen Literatur über relationale KI-Risiken.

00:20:48: Um ein eigenes Urteil... nahezu alle Argumente waren bekannt.

00:20:52: Neu ist, wenn überhaupt die Einordnung in eine göttliche Ordnung der Liebe – das ist im sekularen Bereich einer eher ferner liegenden Dimension des Problems – aber wenn es heißt Humanity First fallen mir natürlich all die Fälle ein, in denen zum Beispiel während der Inquisition die Kirche nach dem Grundsatz Religion first humanity last vorgegangen ist.

00:21:12: Ob sich da was verändert hat?

00:21:14: Werden wir sehen!

00:21:15: Vieles ist gut formuliert, war aber verteilt auf viele Medien im Prinzip bereits überall zu lesen auch in journalistischen Erzeugnissen.

00:21:23: Am Ende sagt der Vatikan bis auf die theologische Einbettung nichts Wesentliches anderes als die kritische Gemeinde sekularer Ethikerin weltweit.

00:21:31: Aus theologischer Sicht ist das Dokument solide mit methodisch Korrent und argumentativ klarer als viele seiner Vorläufe.

00:21:39: Es vermeidet zwei typische Fehler kirchlicher Technikdokumente, die es sonst gibt.

00:21:45: Es ist nämlich weder naiv optimistisch noch ist es apokalyptisch und die anthropologische Grundthese also KI fehlt das Gewissen weil ihr der Leib, die Beziehung, die Fähigkeit zur Selbsthingabe fehlt wird philosophisch von vielen durchaus vertreten lässt sich auch nur schwer widerlegen.

00:22:01: Die politisch-ökonomische Analyse Stichwort Datenmacht als neues Kapital, digitale Lieferketten als neue Sklaverei – all das ist sachlich durchaus begründet und präzise.

00:22:11: Das große Aber der Text entwickelt keine eigenständige Theologie der künstlichen Intelligenz.

00:22:18: Theologisch bleibt zum Beispiel offen was da eigentlich passiert wenn Menschen ähnliche Systeme schaffen die menschliche Kognition partiell oder sogar ununterscheidbar nachbilden?

00:22:28: Ist das nun im theologischen Sinn Kreatio also Schöpfung im Konkurrenz zu Gott?

00:22:34: Oder ist es Imitazio, also die übliche Nachahmung von irgendwas was wir Menschen können durch Technik sowie Dampfmaschinen statt Fehlestärken.

00:22:42: Diese zentrale Frage bleibt leider offen vielleicht weil sich der Papst eben doch nicht in die philosophische metaphysische Arena traute wo er nicht mehr mit der Bibelargument hier an kann wenn euch diese Ausgabe gefallen hat weiter sagen Wir freuen uns in diesem Sinn.

00:22:59: und Tschüss

00:23:00: Skobel, von und mit Gert Skobl.

00:23:03: Produziert von der Pro Bono Fernsehproduktion GmbH.

00:23:06: Postproduktion René Fischell Musik Pascal Hadré Sprecherin Kimplette Meier.

00:23:12: Finanziert wird dieses Projekt von der gemeinnützigen Stiftung AVE dem Institut für Achtsamkeit Verbundenheit und Engagement.

00:23:20: Den Link dazu findet ihr in der Folgenbeschreibung.

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.