Magnifica Humanitas: wat moet de mens met AI?

Welke visie heeft de paus op technologie en AI? Moeten kerken zich wel buigen over dit soort wereldse zaken? En wat betekent het om menselijke waardigheid te behouden als techniek zo nauw met ons verweven is? Theoloog en AI-kenner Fulco Timmers over de encycliek Magnifica Humanitas van paus Leo XIV.

Voor het eerst van mijn leven las ik een pauselijke encycliek. Nu ben ik protestant, maar een encycliek richt zich naast rooms-katholieken nadrukkelijk tot alle christenen en breder tot alle mensen van goede wil. Ik mocht me dus al veel eerder aangesproken voelen. Toch: zelfs de encycliek Laudato Si’ van paus Franciscus kende ik alleen van horen zeggen. Maar nu paus Leo XIV het onderwerp technologie en specifiek AI in een ‘rondzendbrief’ bespreekt, wil ik uit eerste hand weten wat hij schrijft.¹

Wereldse zaken

Een beginneling als ik word goed op weg geholpen door de inhoud van deze encycliek, want het biedt een handzaam overzicht van de ontwikkelingen in de sociale leer van de Rooms-Katholieke Kerk (RKK), beginnend bij de encycliek Rerum Novarum, geschreven in 1891 door paus Leo XIII. Heel bewust koos de huidige paus voor dezelfde naam en sluit hij aan bij diens initiatief om diepgaand te reflecteren op de maatschappelijke gevolgen van de ‘nieuwe dingen’ van zijn tijd.

De paus gaat kort in op mogelijke kritiek op dit initiatief, namelijk de vraag waarom de kerk zich druk zou moeten maken om ‘wereldse zaken’.² Hij herhaalt het inzicht van Leo XIII dat de verkondiging van het Evangelie niet voorbij kan gaan aan de concrete levensomstandigheden van mensen. Daarnaast noemt hij dat wat sinds 1950 de sociale leer van de RKK heet, geen product van de moderne tijd is maar iets dat wortelt in de eeuwenlange traditie van de kerk en in het Evangelie zelf.

De paus adresseert dit kritiekpunt in enkele tussenzinnen. Maar is er niet meer te zeggen over waarom juist de industriële revolutie in de negentiende eeuw en de ontwikkelingen van de digitale en AI-revolutie in onze tijd het Vaticaan tot een reactie brengen op deze ontwikkelingen? Waarom brachten bijvoorbeeld de misstanden van slavernij eerdere pausen niet tot maatschappelijke beschouwingen en aanbevelingen met volop oog voor het verbeteren van de concrete levensomstandigheden van mensen?³

Hiernumaals

Kan het zijn dat bij deze revoluties meespeelt dat de Kerk zich uitgedaagd zag en ziet door ideologieën met een concurrerend mens- en wereldbeeld die beloftes doen die lijken op die van de Kerk, echter niet gericht op een hiernamaals maar juist heel direct op deze wereld? En kan het zijn dat de Kerk zich op dit vlak des te meer uitgedaagd voelde en voelt omdat deze technologische ideologieën beter lijken te kunnen leveren ten aanzien van de concrete noden van mensen, namelijk het bestrijden van honger, ziektes en oorlogen – traditioneel het terrein van godsdiensten?⁴ De paus bespreekt in Magnifica Humanitas twee van deze ideologieën uitgebreid, namelijk het trans- en posthumanisme. Maar wat mij betreft laat hij na te bespreken waarom mensen zich nu zo aangetrokken voelen tot dergelijke ideologieën.

Deze ideologieën brengen daarnaast een belangrijke verschuiving in menselijke focus mee, namelijk van een mogelijk hiernamaals naar het hiernumaals. Ook uit de encycliek spreekt deze beweging, waarbij de hemel niet zozeer een plek is waar mensen ooit heengaan, maar veeleer een werkelijkheid van God die almaar zichtbaarder mag worden hier op aarde.⁵ Hoezeer ik me ook herken in deze insteek, ik mis theologische reflectie op deze toch wezenlijke verschuiving van perspectief. Nu lijkt de encycliek te suggereren dat de kijkrichting van de Kerk eigenlijk nooit anders is geweest en dat lijkt me de zaak geen recht doen.⁶

Ik mis theologische reflectie op deze toch wezenlijke verschuiving van perspectief

Moderne techniek

Wat ik ook op fundamenteel vlak mis in de encycliek is een beschouwing, danwel een verwijzing naar een dergelijke beschouwing, van wat er nu eigen is aan de moderne techniek dat zaken zo fundamenteel lijken te verschuiven. Ik noem, met enige terughoudendheid omdat ik niet wil pretenderen een expert te zijn in diens werk, de beschouwing op dit vlak van Martin Heidegger.⁷ Hij betoogt dat de moderne techniek een dynamiek vormt die een claim legt op alles wat bestaat: de dingen hebben niet langer waarde in zichzelf maar worden vooral (of zelfs alleen) gezien in het licht van wat ze kunnen voortbrengen, als grondstof en als potentieel.⁸ Deze claim legt ook beslag op de mens: ook die is er niet langer voor zichzelf, maar wordt evengoed tot een potentieel dat ten volle benut kan of zelfs moet worden.⁹

Wat Heidegger betreft, vindt er met de moderne techniek een fundamentele verschuiving plaats in de verhouding tussen mens en techniek. Deze verhouden zich niet langer tot elkaar als maker en instrument, waarbij de mens als het ware boven de techniek staat. Nee, de dynamiek van de moderne techniek heeft een zekere zelfstandigheid en legt ook een claim op de mens zelf en dat is wezenlijk nieuw. Daarin schuilt het gevaar van de moderne techniek, namelijk dat zij de menselijke waardigheid kan aantasten. Tegelijk betekent dit dat juist door het opkomen van de moderne techniek er volop aandacht gevraagd wordt voor wat die menselijke waardigheid dan is, wat Heidegger aanduidt als de redding die meteen met dit gevaar meekomt.¹⁰

De encycliek lijkt aan deze beschouwing voorbij te gaan. De paus lijkt de verhouding tussen mens en techniek nog steeds te zien als die tussen maker en instrument.¹¹ Binnen die verhouding staat de mens voor een betrekkelijk heldere keuze over hoe die techniek dan te gebruiken: voor het goede, door de paus verbeeld met de herbouw van Jeruzalem zoals beschreven in Nehemia, of voor het kwade, waarvoor de bouw van de Toren van Babel als beeld dient. Maar staan we wel zo vrij ten opzichte van de moderne techniek? Wat als er dus een claim van die techniek zelf uitgaat, een soort ‘heilig moeten’ om alles uit de wereld, inclusief mensen, te halen wat erin zit? Wat als deze claim zichzelf almaar meer aan het manifesteren is, juist ook in AI, met almaar minder tussenkomst van de mens? Is de paus dan niet te optimistisch op het gebied van onze keuzevrijheid?

Maar staan we wel zo vrij ten opzichte van de moderne techniek?

Menselijke waardigheid

Tegelijkertijd heeft de paus duidelijk zicht op de dynamiek waardoor mensen gereduceerd worden tot een grondstof, een potentieel. Juist vanwege de menselijke waardigheid verzet de paus, in een doorgaande lijn met zijn naamgenoot en de pausen na hem, zich tegen het reduceren van mensen tot radertjes in een systeem en tot grondstof – of dat nu voor arbeidskracht is, met moderne slavernij als uiterste uitwas, of voor data of voor aandacht. Maar dit verzet had mijns inziens aan kracht gewonnen door de dynamiek nog wat diepgaander te bespreken waardoor mensen tot grondstof gereduceerd worden.¹²

Ook is de encycliek wat onhelder waar het gaat om de vraag of de menselijke waardigheid nu al een realiteit is of een potentieel dat nog gerealiseerd moet worden. Enerzijds verzet de paus zich tegen de gedachte dat de waarde en waardigheid van mensen met name zou liggen in een nog te realiseren potentieel. Mensen moeten niet eindeloos verbeterd worden, hun menselijke waardigheid ís er al en ligt juist in hun beperkingen. Deze tegenstem tegen verbeterdrang is nodig en zinvol, maar tegelijk vraag ik me af of de paus dit punt niet te sterk maakt wanneer hij schrijft dat ‘het volledig uitbannen van lijden uiteindelijk zou betekenen dat liefde en verlangen volledig wordt uitgedoofd’?¹³ Ook zie ik hier een spanning met het eschatologisch perspectief van het christendom, bijvoorbeeld verwoord in de Openbaring van Johannes 21:4, waar sprake is van het uitwissen van alle tranen en het wegvallen van dood en pijn. Dit perspectief komt niet ter sprake.¹⁴

De paus roept in de encycliek ook op om technologie te omarmen om lijden te verlichten, zij het binnen grenzen, en dat roept spanning op. De grens die de paus stelt, is dat het wezen van wat het betekent om mens te zijn niet aangetast mag worden, namelijk ons vermogen relaties aan te gaan en lief te hebben.¹⁵ Dit roept de vraag op of trans- en posthumanisme, na bijstelling op het punt van relaties en liefhebben, dan niet prima alsnog de weg vooruit kunnen zijn?

Heilzame omgang

Met mijn kritische kanttekeningen wil ik niet afdoen aan het belang en de waarde van dit document. De concrete aanbevelingen die de paus doet op het vlak van regulatie van AI-ontwikkeling, met name op het gebied van oorlogsvoering, de nadruk die hij legt op dialoog en samenwerking en het appel dat hij doet om in deze tijd, zeker als christenen, in te zetten op het koesteren van waarheid, bouwen aan goed onderwijs, het zien van de existentiële waarde van werk en het hoeden van vrijheid, zijn waardevolle bijdragen in het zoeken naar een heilzame omgang met techniek.

Die aanbevelingen zetten mij tot slot aan het denken op welke manier de Rooms-Katholieke Kerk en andere kerkgenootschappen aan dit alles concreet invulling zouden kunnen geven. Ik dacht aan de mogelijkheid om organisaties die zich inzetten op de thema’s die de paus benoemt aan te bevelen en te stimuleren. Bij mij kwamen op het stimuleren van open source software, het steunen van kritische journalistieke platforms zoals in Nederland Follow the Money of Investico, of het omarmen van een keurmerk als B-corp. Ik ben wat dat betreft benieuwd welke concrete doorwerking deze encycliek zal hebben.¹⁶

Ds. Fulco Timmers is als predikant verbonden aan de Kloosterkerk in Den Haag. Naast theologie en natuurkunde is hij een liefhebber van sciencefiction en technologie.

Lees ook deze boeken over theologie en techniek

1. Een beetje naïef dacht ik dat het origineel dan in het Latijn opgesteld zou zijn. Dat bleek niet het geval. De encycliek is in het Latijn van onze dagen opgesteld, dus in het Engels. Er zijn diverse vertalingen naar andere moderne talen gemaakt of nog in de maak en ook een Latijnse versie zal vast volgen. Toch vond ik dit ergens opvallend, misschien zelfs een beetje teleurstellend. ↩︎
2. Kennelijk speelt deze vorm van kritiek ook in rooms-katholieke kringen. Ik ken deze vorm van kritiek uit een verhaal dat iemand met een streng gereformeerde achtergrond vertelde over de reactie van één van diens ouders toen diegene vertelde te hebben meegedaan met de demonstratie tegen kernwapens. De reactie was: ‘Och, waarom maak je je zo druk m’n lieve kind, dit is toch niet ons erfdeel.’ ↩︎
3. Getuigt het van voldoende zelfonderzoek dat de paus in deze encycliek toegeeft dat inzien hoe mensonterend slavernij is tot zijn spijt achttien eeuwen heeft moeten duren? Hij biedt hiervoor zijn excuus aan, zonder helemaal helder te maken aan wie dit excuus gericht is. Deze kritiek geldt natuurlijk niet alleen de Rooms-Katholieke Kerk. Ook het kerkgenootschap waar ik zelf toe behoor, de Protestantse Kerk in Nederland, kent een buitengewoon moeizame omgang met het eigen slavernijverleden. ↩︎
4. Een punt dat Yuval Noah Harari maakt in het eerste hoofdstuk van Homo Deus (2015). ↩︎
5. De paus spreekt in verband hiermee over de eeuwige waarheden van het Evangelie die wel steeds ‘in de tijd’ concreet gemaakt moeten worden. Dat laatste is een proces van voortschrijdend inzicht waarin de (sociale) wetenschappen en dialoog in het algemeen een belangrijke rol spelen. Tegelijk roept deze insteek de wat mij betreft spannende vraag op waar het primaat ligt. Op het gebied van slavernij ziet de paus nadrukkelijk een beweging waarbij christenen zijn gaan zien dat dit in het licht van het Evangelie afgewezen moet worden, terwijl de Bijbel geen expliciete uitspraken doet op dit vlak en op diverse plaatsen slavernij als een vanzelfsprekend iets ziet. Niet helemaal helder wordt wat mij betreft waarom er dan bijvoorbeeld geen ruimte  voor voortschrijdend inzicht zou zijn waar het gaat over het gezin, dat volgens de paus alleen kan bestaan uit een vader en moeder? ↩︎
6. Was het in dit kader wellicht passend geweest om nog scherper de vraag te bespreken of, door eeuwenlang de focus op het hiernamaals te leggen, de Kerk wel voldoende oog heeft gehad voor de concreet maatschappelijke implicaties van het Evangelie, zogezegd het revolutionaire karakter van Jezus’ boodschap van het Koninkrijk van God? Was op dit punt niet meer rekenschap af te leggen geweest? ↩︎
7. In ‘Die Frage nach der Technik‘, een voordracht gehouden op 18 november 1953; o.a. uitgegeven in een Nederlandse vertaling door Mark Wildschut (Vantilt 2014), met bijhorend commentaar van Gerard Visser. ↩︎
8. Heidegger gebruikt hiervoor het woord ‘Entbergen’, door Wildschut vertaald (of liever: bewust overgezet naar) ‘ontbergen’. ↩︎
9. Het trans- en posthumanisme zijn ‘logische’ uitkomsten van deze dynamiek. ↩︎
10. Cf. Gerard Visser, Heideggers vraag naar de techniek – Een commentaar (Vantilt, 2014), pp. 136-138. ↩︎
11. Waarbij de paus overigens terecht benoemt dat juist AI eerder gekweekt dan gemaakt wordt. Maar hieruit trekt de paus niet de conclusie dat het daarmee de vraag is of we als mensen, zeker wat AI betreft, ons nog verhouden tot techniek als ‘slechts’ een instrument in onze handen; de mogelijke consequenties van het groei-karakter van AI verken ik verder in deze bijdrage. ↩︎
12. In de encycliek wordt deze dynamiek wel benoemd, namelijk als het ‘technocratische paradigma’. Maar zo geformuleerd klinkt het meer als een bepaalde ideologie die mensen bewust kunnen omarmen, terwijl de beschrijving van Heidegger meer ruimte laat om wat er speelt in moderne techniek te zien als iets dat ook meer los van mensen op hen toekomt. ↩︎
13. Cf. paragraaf 120. ↩︎
14. Kan hier meespelen dat de paus, mogelijk onbewust, wil vermijden het verwijt op te roepen dat het christendom het lijden in de wereld bagatelliseert met de belofte van een hemels koninkrijk? ↩︎
15. Cf. paragraaf 126. ↩︎
16. Bij het lezen van de encycliek kwam bij mij wat dit punt betreft de vraag op in hoeverre het Vaticaan de doorwerking van een encycliek peilt. In de overzicht van wat eerdere encyclieken hebben bijgedragen aan de Sociale Leer van de Kerk vond ik geen verwijzing naar onderzoek naar de impact van deze encyclieken. Ook op dit punt schiet mijn kennis van de Rooms-Katholieke Kerk tekort om te weten in hoeverre er gebruik gemaakt wordt van de inzichten van impact-onderzoeksmethoden. ↩︎