Preview: 2084

Technologische ontwikkelingen gaan razendsnel en apparaten kunnen steeds meer. Tegelijkertijd is het soms maar de vraag of ze ons leven daadwerkelijk makkelijker en beter maken. Het toegenomen gebruik van Artificial Intelligence (AI) roept grote vragen op: als AI een steeds grotere rol krijgt in ons leven en ons werk overneemt, wat betekent het dan nog om mens te zijn? John Lennox verkent meer van dit soort existentiële vragen in zijn boek 2084 en laat zien hoe het christelijk geloof hier actuele en doordachte antwoorden op biedt. Lees hieronder een stukje uit het eerste hoofdstuk.

Wij mensen zijn buitengewoon nieuwsgierig. Al sinds het begin van de geschiedenis stellen we grote vragen – over kennis, oorsprong en bestemming. Het belang ervan is duidelijk. Ons antwoord op de vraag naar onze oorsprong vormt onze opvattingen over wie we zijn, en ons antwoord op de vraag naar onze bestemming geeft ons doelen om voor te leven. Alles bij elkaar vormen onze reacties op die vragen ons wereldbeeld,

het (meta)narratief of het ideologische raamwerk, waarvan we ons vaak maar nauwelijks bewust zijn, dat ons leven richting geeft en de betekenis ervan vormgeeft.

Het zijn geen gemakkelijke vragen, zoals te zien is aan de vele en tegenstrijdige antwoorden om uit te kiezen. Maar over het algemeen hebben wij ons daar niet door laten tegenhouden. In de loop der eeuwen zijn er uit wetenschappelijke, filosofische, religieuze en politieke hoek antwoorden voorgesteld, waarin al die invalshoeken veelal gecombineerd werden.

Dystopie

Veel hedendaagse ontwikkelingen werden in beroemde dystopische romans al voorzien. Denk aan de roman Heerlijke nieuwe wereld uit 1931 van Aldous Huxley en aan 1984 van George Orwell, dat in 1949 werd gepubliceerd. Beide boeken hebben, op verscheidenen momenten, hoog op de lijst van invloedrijke Engelse romans gestaan. Het boek van Orwell werd in 2005 bijvoorbeeld door Time gekozen als een van de honderd beste Engelstalige romans tussen 1923 en 2005.

Beide boeken beschrijven een dystopie, wat volgens Wikipedia staat voor een ‘(denkbeeldige) samenleving met akelige kenmerken’. Uiteraard wist noch Huxley noch Orwell iets over AI, toch stelden ze zich een toekomst voor die werd gevormd door de technologie om hen heen. Ze hadden het vermogen zich een voorstelling te maken van toekomstige ontwikkelingen op dat gebied, waarvan een groot gedeelte vooruitziend bleek te zijn.

Gevormd door technologie

De dystopieën die ze voor zich zagen, verschilden sterk van elkaar, en de verschillen geven ons nuttige inzichten voor onze eigen zoektocht, zoals bondig werd uitgelegd door socioloog Neil Postman in zijn zeer goed aangeschreven werk Wij amuseren ons kapot:

Orwell houdt ons voor dat we ten prooi zullen vallen aan externe onderdrukking. Maar in Huxley’s visie is er helemaal geen Big Brother nodig om de mens zijn autonomie, volwassenheid en geschiedenis te ontnemen. Hij voorzag dat de mens zich met welgevallen monddood zou laten maken en van zijn vermogen tot kritisch denken zou laten beroven. Orwell vreesde boekverbrandingen. Huxley vreesde dat hiervoor geen reden zou zijn, omdat geen mens nog een boek zou willen lezen. Orwell vreesde dat ons informatie onthouden zou worden. Huxley vreesde dat we zozeer door informatie overstroomd zouden raken dat ons niets anders dan passiviteit en egoïsme zou resten. Orwell vreesde dat de waarheid voor ons verborgen zou worden. Huxley vreesde dat zij zou verdrinken in een zee van trivialiteit (…). Kortom: Orwell vreesde dat hetgeen wij haten onze ondergang zal bewerkstelligen Huxley vreesde dat datgene waarvan we houden onze ondergang zal worden.

In 1992 publiceerde Postman nog een ander boek, Technopolie – een woord dat hij bedacht om te verwoorden dat onze samenleving niet langer technologie gebruikt, maar dat ze erdoor wordt gevormd. Hij zegt hierover: ‘Nieuwe technologieën veranderen de structuur van onze interesses: de dingen waarover we denken. Zij veranderen het karakter van onze symbolen: de dingen waarmee we denken. En ze veranderen de aard van de gemeenschap: de arena waarin onze gedachten vorm krijgen.’ Kortom, ze veranderen – bepalen zelfs – de manier waarop we de werkelijkheid waarnemen. Dit inzicht is uiterst relevant voor ons onderwerp, namelijk hoe één bepaalde technologie de toekomst van de hele planeet zal bepalen.

Nieuwe technologieën veranderen de structuur van onze interesses.

Vriend en vijand

Postman benoemt houdingen ten opzichte van technologie: ‘Ten eerste is de technologie daadwerkelijk een vriend, die het leven gemakkelijker en langer maakt (…). Maar natuurlijk heeft deze vriendschap een schaduwzijde. Haar geschenken hebben een hoge prijs. Gieten we onze beschuldigingen in de meest dramatische bewoordingen, dan luidt de klacht dat de ongecontroleerde groei van de technologie de bronnen verwoest die van levensbelang zijn voor de mensheid. De technologie levert een cultuur op zonder moreel fundament. De technologie ondermijnt bepaalde mentale processen en sociale relaties die het menselijke leven waardevol maken. Concluderend: de technologie is zowel vriend als vijand.’

Postman stelt dat we nu in een technopolie leven – ‘een systeem waarin almachtige, zichzelf rechtvaardigende en in stand houdende technologieën volledige heerschappij hebben verkregen over ons sociale leven’. Deze woorden vatten goed samen wat we in dit boek gaan verkennen. Het lijkt erop dat de voorspellingen van zowel Huxley als Orwell in onze huidige cultuur worden gerealiseerd. Vergevorderde technologie is verantwoordelijk voor miljarden dollars aan handelstransacties, maar in sommige hoeken bestaat de angst dat ze niet alleen onvermijdelijk onze toekomst zal bepalen, maar dat aspecten ervan een mogelijk zo ernstige, existentiële dreiging voor heel de mensheid kunnen vormen dat er wellicht geen toekomst meer zal zijn.

Postman stelt dat we nu in een technopolie leven.

Stad van glas

Een van de eerste werken die boeken als die van Huxley, en mogelijk die van Orwell, inspireerde, is de sciencefictionroman Wij uit 1921, van de Russische auteur Jevgeni Zamjatin. Zamjatin schreef over De Vereende Staat – een stad van glas, zodat haar burgers altijd geobserveerd konden worden. Ver voor Zamjatin bedacht de achttiende-eeuwse Britse filosoof Jeremy Bentham een gevangenisgebouw dat hij het panopticum noemde. Een dergelijke gevangenis had een centrale toren van waaruit alle gevangenen door één enkele bewaker in de gaten konden worden gehouden. Die bewaker kon onmogelijk alle gevangenen voortdurend in de gaten houden, maar de gedetineerden wisten niet – en konden niet weten – wanneer ze bekeken werden. De angst kreeg daardoor vat op hen en ze gedroegen zich alsof ze voortdurend werden gadegeslagen.

Het panopticum van Bentham is nooit daadwerkelijk gebouwd. In 1965 publiceerde de Amerikaanse historica Gertrude Himmelfard het essay ‘The Haunted House of Jeremy Bentham’ waarin ze Benthams manier van surveillance als middel van onderdrukking en sociale controle afbeeldde. Dit idee werd opgepakt door de Franse filosoof Michel Foucault in zijn boek Discipline, toezicht en straf uit 1975, waarin hij het panopticum gebruikte als metafoor om te beschrijven hoe autoritaire samenlevingen hun burgers onderwerpen.

Gevangen door surveillance

Hij beschrijft de gevangene in een panopticum als iemand die zich onder een asymmetrische surveillance technologische ontwikkelingen bevindt: ‘De gedetineerde wordt gezien, maar hij ziet niet; hij is object van informatie, maar nooit subject van communicatie.’ Als gevolg daarvan, uit vrees voor straf, oefent hij toezicht uit op zichzelf. In haar boek In the Age of the Smart Machine: The Future of Work and Power uit 1988 gebruikte Shoshana Zuboff het idee van een informatiepanopticum om te beschrijven hoe computertechnologie arbeid zichtbaarder kon maken door managers in staat te stellen werknemers buiten hun medeweten te volgen.

Uit vrees voor straf, oefent hij toezicht uit op zichzelf.

In 1984 gebruikte Orwell een soortgelijk idee als dat van Bentham, waarbij hij een surveillancestaat bedacht met alomtegenwoordige teleschermen, waarin datgene wat burgers zeiden en deden voortdurend gevolgd werd. Hij schreef: ‘Het was natuurlijk onmogelijk te weten of je op een gegeven moment werd gadegeslagen (…). Je moest leven (…) in de veronderstelling dat elk geluid dat je maakte werd gehoord en dat

elke beweging, behalve in het donker, werd nagegaan.’ Wereldwijd wordt deels in die functie voorzien door camerabewaking. Had Bentham dat maar geweten!

Beperking in taalgebruik

Orwell zag echter iets voor zich wat vele malen sinisterder was – een wereld onderworpen aan ‘Nieuwspraak’ en ‘Gedachtepolitie’ door een allesomvattende surveillance in een totalitaire staat. Het eerste concept betrof een opgelegde beperking van de taal die gebruikt werd. ‘Begrijp je dan niet dat de hele bedoeling van Nieuwspraak is de denkruimte te beperken? Uiteindelijk zullen we misdenk letterlijk onmogelijk maken, omdat er geen woorden zullen zijn om die uit te drukken.’ Hoewel dit niet in het jaar 1984 is gebeurd, is er niet veel fantasie voor nodig verbindingen te leggen met onze huidige ‘cancelcultuur’ die doortrokken is van ‘politieke correctheid’ en ‘woke taalgebruik’.

Orwells wereld bestaat al, en de lijst onaanvaardbare woorden groeit dagelijks. Zelfs plaatselijke overheden in het Verenigd Koninkrijk vaardigen richtlijnen uit aan hun raadsleden en personeel over wat ze wel en niet kunnen zeggen – niet langer ‘moeder’ en ‘vader’, maar ‘biologische ouder’; niet langer ‘blank’ of ‘buitenlander’, niet langer ‘levensstijl’, ‘achterstandswijken’, of ‘gehandicapt’. Je zou denken dat de architecten van dergelijke ontwikkelingen zich goed bewust zijn van Orwells idee dat degenen die taal controleren gedachten controleren.

Kan de wetenschap alles verklaren? Binnenkort verschijnt Lennox’ boek 2084.

Pre-order 2084

---