Paul Kingsnorth: “AI is niet zomaar een nieuwe technologie”

Kunstmatige intelligentie verandert ons leven ingrijpend. Het is onderdeel van een alles overkoepelende ‘Machine’ waarin technologie, kapitalisme en culturele ontworteling een giftige mix vormen. Ons mens-zijn staat op het spel. Dat stelt Paul Kingsnorth zonder reserves in zijn boek Tegen de Machine. Op latere leeftijd bekeerde Paul Kingsnorth zich tot het christelijk geloof en sloot zich aan bij de orthodoxe kerk. Maartje Amelink legde hem enkele vragen voor over geloof, AI en het ultieme doel van big tech.

Voel je Rage Against the Machine?

‘Ik ben zeker oud genoeg om die band in de jaren negentig live te hebben gezien. Maar geen woede, nee. Woede voelen tegen wat dan ook is meestal contraproductief. Soms voel ik wel boosheid of onvrede over wat de Machine met ons leven doet.’

‘De Machine’ is een grote metafoor in je boek, ze verwijst naar steden, digitalisering, vooruitgang, ontworteling, elites. Kun je een beknopte omschrijving geven? Wat moeten lezers zeker begrijpen?

‘Het is moeilijk om beknopt te zijn. Daarom moest ik er een heel boek over schrijven… De Machine’ is een beeld dat sinds de industriële revolutie door schrijvers, dichters en filosofen is gebruikt om te verwijzen naar het technologisch-industriële systeem dat om ons heen ontstaat en ons nu definieert. Het begint met een manier van kijken die sterk gericht is op de linkerhersenhelft: gericht op efficiëntie, winst, rechte lijnen en wetenschappelijke metingen. Combineer dit met een winstgericht kapitalistisch systeem en een netwerk van elektronische technologieën die deze waarden vanaf onze geboorte in ons prenten, en je hebt de Machine. En uiteindelijk maakt het systeem ons als mensen ook meer machineachtig.’

Technologie heeft altijd onze manier van produceren en communiceren bepaald. Wat maakt AI-technologie anders dan bijvoorbeeld de uitvinding van de drukpers, de stoomtrein of de gloeilamp?

‘Die uitvindingen kunnen niet met je praten. Ze lijken geen bewustzijn te hebben. Ze hebben nooit een tiener tot zelfmoord aangezet. Ze zijn niet ontworpen door mensen die heel openlijk en bewust proberen een nieuwe soort intelligentie te creëren.

‘Je hebt wel gelijk dat technologie een bepaalde ‘reisrichting’ heeft. AI is in zekere zin geen uniek fenomeen. Het is slechts de volgende fase van een proces dat al heel lang gaande is. Het is onlosmakelijk verbonden met het elektriciteitsnet, het internet en smartphones. Het is de volgende stap in hetzelfde proces. Nu zien we waar de moderne technologische revolutie ons naartoe leidt.’

Mensen sterven nog steeds, worden ziek, verliezen geliefden, krijgen kinderen, maken muziek, bedrijven de liefde, genieten van de zon, worden boos, lachen – al die diepmenselijke ervaringen. Zou dat niet veel sterker zijn dan welk technologisch-politiek systeem dan ook?

‘Het hangt ervan af wat je bedoelt met ‘sterker’. Uiteindelijk, zeker als we christen zijn, zoals ik zelf ben, geloven we dat het menselijke – het leven – zal zegevieren over het kunstmatige en de dood. Maar in de tussentijd kan de boel behoorlijk overhoopliggen. Denk aan het communistische systeem, waaronder miljoenen onderdrukte mensen hebben geleden, bijna een eeuw lang. Waren al die dingen die je hierboven opsomt ‘sterker’ dan het systeem van goelags, geheime politie, gedwongen hongersnood en massa-executies? De zon scheen nog steeds en mensen kregen nog steeds kinderen, maar dat verzachtte de realiteit van het onderdrukkende systeem om hen heen niet.

‘Maar goed, als de mensen achter de AI-systemen hun zin krijgen, zullen we niet langer sterven. We zullen ook niet meer op dezelfde manier kinderen krijgen. Designerbaby’s zijn al een realiteit. Zullen we überhaupt nog mens blijven? Dat is de cruciale vraag. Wat er momenteel om ons heen gebeurt is revolutionair, in sommige opzichten zelfs veel revolutionairder dan het marxisme, denk ik. Het is niet ‘zomaar een nieuwe technologie’. Het verandert de basis van onze hersenen en daagt ons uit om diep na te denken over wat het betekent om mens en bewust te zijn.’

Je bent gaandeweg orthodox christen geworden. Welke aspecten van het christelijk geloof spreken je het meest aan, in de context van de huidige wereld?

‘Het christendom kwam onverwacht op mijn pad, en niet om een ​​politieke of filosofische reden. Ik ben er nog steeds mee bezig om ​​christen te worden, wat een levenslange inspanning is. Maar als ik de evangeliën lees en zie hoe Christus leefde en hoe hij zijn volgelingen opdroeg te leven, zie ik een reeks waarden die haaks staat ​​op onze wereld. Dat was natuurlijk altijd al zo. De weg van Christus was altijd al diep subversief, daarom werd hij uiteindelijk gekruisigd.

‘Soms lijkt het alsof onze cultuur alleen nog maar draait om het verheerlijken van de zeven hoofdzonden. Als we werkelijk zouden leven zoals christenen – simpelweg door trots en status af te wijzen, liefde te geven aan iedereen, de zwaksten en meest behoeftigen te helpen – dan zou er geen Machine zijn. Maar dit is natuurlijk heel persoonlijk werk, geen politiek project. Het begint in ons hart. Dat is mijn uitdaging, en een uitdaging die we allemaal hebben.’

Je bekritiseert de invloedrijke structuren van big tech – hoe die onze waarden, onze relaties en ons dagelijks leven bepalen. De kerk domineerde eeuwenlang ook onze manier van denken, onze dagindeling en onze gemeenschappelijke focus. Hoe komt het dat je een oude machtsstructuur nieuw leven inblaast?

‘Ik denk niet dat het echt een nuttige vergelijking is. Wat we big tech noemen, is een losse verzameling van bedrijven, individuen en overheden die de technologische ‘superstructuur’ hebben gecreëerd die de wereldeconomie ondersteunt. De kerk is een instelling die is opgericht om een ​​reeks religieuze leerstellingen te verspreiden. Je hebt gelijk dat beide instellingen erg machtig zijn geworden, en in veel gevallen corrupt en dominant. Maar ze bestaan ​​om heel verschillende redenen, en hun macht komt uit verschillende bronnen.

‘Ik denk dat de macht van de kerk in het Westen historisch gezien vaak een groot probleem is geweest. De kerk is een menselijke instelling, en alle menselijke instellingen weerspiegelen de menselijke zwakheden, zoals corruptie. Maar de tijd dat de kerk aan de macht was, is voorbij. De christelijke kerk heeft tegenwoordig, vooral in West-Europa, helemaal geen economische of politieke macht meer, en ook maar heel weinig culturele macht. Zelfs als ze het leven van mensen zou willen beheersen, zou ze dat niet kunnen. Dat is ook niet per se slecht. Mensen zoals ik gaan vrijwillig naar onze kerken omdat we ze zien als spirituele ziekenhuizen en we genezing nodig hebben. De macht van big tech is iets anders. Die is tegelijkertijd diffuser en vager, en toch veel verder reikend en invloedrijker.

‘Dat gezegd hebbende, denk ik dat ze allebei een soort spirituele kern hebben. De theologie van de Machine is, zo je wilt, een soort hernieuwde christelijke eschatologie, alleen is God vervangen door de mensheid. In plaats van te moeten wachten tot we sterven om het Koninkrijk van God binnen te gaan, zijn we van plan dat koninkrijk zelf op aarde te bouwen. Misschien uploaden we onze geest naar de cloud of misschien sterven we nooit. Hoe dan ook, we bouwen zelf het paradijs, zonder toestemming te hoeven vragen. De mensen in Silicon Valley spreken vaak openlijk in deze termen. Hier schrijf ik ook over in mijn boek.’

Soms klink je in je boek als een MAGA-marketeer die voor twee geslachten pleit, soms als een milieuactivist die zelfvoorzienend leeft, soms als een rechtse conservatief die traditie viert, soms als een marxistische cultuurcriticus die het kapitalisme ontmantelt. Het lijkt bijna een postmoderne puzzel. Hoe integreer je al deze innerlijke stemmen?

‘Nou, ik ben bang dat er maar twee geslachten zijn. Wat dat betreft zullen een feminist en een bioloog het allebei eens zijn met een MAGA-aanhanger. Je vraag veronderstelt dat deze verschillende ideeën lijnrecht tegenover elkaar staan ​​en dat het ook partijpolitieke standpunten zijn. Maar dat is alleen het geval als we aannemen dat de hokjes waarin we mensen doorgaans plaatsen reëel of nuttig zijn. Naar mijn mening zijn ze dat niet. De moderne politieke tweedeling tussen ‘links’ en ‘rechts’ is bijvoorbeeld op dit moment volkomen incoherent. Een betere manier om naar de dingen te kijken, en de manier waarop ik er altijd naar heb gekeken, is door de lens van grenzen. Alle gangbare politieke categorieën gaan over het doorbreken van grenzen. ‘Links’ wil de grenzen van traditie, religie, gendernormen en nationale grenzen doorbreken. ‘Rechts’ wil de grenzen van economie, ecologie en zelfs de grenzen van de ruimte doorbreken. De Machine zal iedereen graag van dienst zijn, omdat het een mechanisme is om alle grenzen af ​​te schaffen en te vervangen door een nieuwe wereld van individuele consumentenidentiteit, gedreven door technologie en winst.

‘Zo bekeken passen mijn bewering dat er sprake is van seksueel dimorfisme, mijn verlangen naar een milieuvriendelijke levensstijl, mijn geloof in het behoud van de beste aspecten van onze culturele tradities en mijn afkeer van de kapitalistische economie die al deze dingen ontwortelt, perfect bij elkaar. Er is niets postmoderns aan deze manier van kijken. Sterker, het is eerder premodern. In mijn boek noem ik het ‘reactionair radicalisme’. Dat is overigens niet zo ongebruikelijk. Je treft het alleen nergens in het gangbare publieke debat aan.’

Je herkent telos in big tech – het duwt ons in een bepaalde richting. Welke richting is dat, wat is het uiteindelijke doel?

‘Het uiteindelijke doel van de Machine is de vervanging van de natuur door technologie. Het is de totale controle van de aarde door de mensheid. Daarnaast streeft het naar menselijke onsterfelijkheid en de verovering van de ruimte. Of het in een van deze dingen kan slagen, is een andere kwestie. Ik denk van niet. Het lijkt me eerder de Toren van Babel. Maar torens kunnen veel schade aanrichten voordat ze instorten.’

Je suggereert dat AI-technologie in onze wereld ‘naar binnen wordt gelokt’, alsof het afkomstig is van een externe duistere plek waar superintelligentie ontstaat. Wat maakt dit idee aannemelijk voor jou?

‘Het is niet zozeer een idee, maar eerder een vermoeden. In het boek speel ik met veel spirituele ideeën over wat er aan de hand zou kunnen zijn. Het idee dat de creatie van AI ‘een nieuwe intelligentie in de wereld brengt’ is niet van mij, maar een citaat van een aantal AI-ontwikkelaars die zelf geloven dat ze dit doen. Het is fascinerend en verontrustend dat deze mensen niet helemaal zeker lijken te weten waar ze mee bezig zijn. Als je met genoeg van hen praat, of leest wat ze schrijven, krijg je het gevoel dat ze niet echt voor zichzelf werken. Ze voelen zich gemotiveerd om deze nieuwe ‘God-technologie’ te creëren, maar weten niet precies waar die drijfveer vandaan komt. Ze weten niet waar het allemaal zal eindigen en terwijl ze de ‘God-technologie’ creëren, vrezen ze die ook en hebben ze er eigenlijk geen controle over. Als dit het plot van een sciencefictionfilm was, waar zou het dan naartoe leiden? Wat zou de twist zijn? Misschien komen we daar nog achter.’

In lijn met dit misschien ‘demonische’ karakter van AI: zou het kunnen dat de Heilige Geest ook spreekt via algoritmes?

‘Nou, sommige mensen hebben me dat gezegd. Dit is bijvoorbeeld de lijn die de miljardair en transhumanist Peter Thiel momenteel volgt. Hij zal openlijk stellen dat mensen zoals ik, die sceptisch staan ​​tegenover de richting van technologie, de weg vrijmaken voor de komst van de Antichrist! Natuurlijk denk ik dat het precies andersom is. Maar ja, sommige christenen zullen je vertellen dat dit allemaal Gods wil is. Ik herinner me gewoon wat Christus zegt: je zult een boom herkennen aan zijn vruchten. Zijn de vruchten van de AI- en transhumanistische revolutie goede vruchten? Leiden ze tot meer harmonie, liefde, ecologische genezing of christelijke broeder- en zusterschap? Ik zie dat niet. Ik zie ecologische vernietiging, politieke verdeeldheid, culturele fragmentatie en een duister verlangen om de natuur naar ons eigen beeld te herbouwen. Bovendien worden Peter Thiel en zijn kompanen er ook schatrijk van, wat niet erg christelijk is.’

Hoe moeten we in deze tijd leven als we menselijk willen blijven?

‘Dat is een moeilijke vraag en het antwoord verschilt per persoon, maar ik grijp zelf terug op het begrip ‘grenzen’. Waar trekken we de rode lijn in onze relatie met digitale technologieën? Hebben we een smartphone? Gaan we AI gebruiken? Geven we onze kinderen schermtijd en mogen ze op sociale media? We moeten beginnen met te begrijpen wat het betekent om mens te zijn, en te begrijpen wat de Machine is. Je bent het misschien niet volledig met mijn visie eens, maar je moet wel begrijpen wat er aan de hand is. In mijn boek gebruik ik het christelijke concept van ascese om onze relatie met het systeem van de Machine te bespreken. We moeten allemaal beslissen in hoeverre we ons ermee bezig willen houden. En dat is volgens mij een spirituele discipline, net zo goed als een materiële.’

Paul Kingsnorth is een Engelse schrijver en denker die in het westen van Ierland woont. Hij is de auteur van tien boeken, waaronder fictie, non-fictie en poëzie.

Bestel Tegen de machine bij onze partner Boekenwereld

In ‘Tegen de machine’ presenteert dichter en schrijver Paul Kingsnorth een originele beschrijving van het technologische-culturele web dat ons omhult. Het vergt inspanning om in het angstaanjagende tijdperk van de Machine werkelijk mens te blijven. Paul Kingsnorth laat met meesterlijk inzicht in de wortels van het technokapitalisme zien hoe de Machine, onder de vlag van vooruitgang, de westerse beschaving heeft verstikt en de aarde vernietigt. Schrijvend in de traditie van Wendell Berry, Jacques Ellul en Simone Weil, herinnert Kingsnorth ons aan wat menselijkheid vereist: een gezonde achterdocht tegenover gevestigde macht, verbondenheid met land, natuur en erfgoed en diepgaande aandacht voor spiritualiteit.

Bestel Tegen de machine