Als we niet oppassen, neemt het systeem ons te grazen
Wat het ‘Samaritan Experiment’ ons kan leren over onze omgang met AI
Onder tijdsdruk haastten theologiestudenten zich voorbij een hulpbehoevende man om op tijd een preek te kunnen houden over de barmhartige Samaritaan. De verwachtingen van het systeem – het niet teleurstellen van de professor – wonnen het van de zorg voor de kwetsbare. Dit experiment uit 1970 is nog altijd relevant, stelt Matthijs den Otter, want AI dreigt ons leven steeds verder te systematiseren. Hoe hiermee om te gaan? Matthijs vindt tips in de filosofie van Hauerwas.
Het moet een apart tafereel zijn geweest, voor de voorbijgangers die even plaatsnamen op het bankje dat uitzicht gaf op Green Hall en Green Hall Annex, twee gebouwen op de campus van Princeton University. Het was een koude middag eind 1970. Even eerder was een slordig geklede man in de steeg tussen de gebouwen neergezakt. Hoofd naar beneden, ogen gesloten. Dat was niet alles. Zo ongeveer elk kwartier liep er een student door de steeg. Ook het hoofd naar beneden, snelle stappen. Haast. Elke keer als een student de man naderde, begon hij nog te hoesten en te zuchten: het ging duidelijk niet goed. Maar het gekke was, dat de grote meerderheid van de studenten gewoon doorliep. Sommigen leken de man niet eens op te merken. Ze stapten over hem heen. Wat de situatie nog curieuzer maakte, was dat dit theologiestudenten waren. En dat niet alleen, de helft van hen had in Green Hall zojuist een tekst bestudeerd over de Barmhartige Samaritaan. Ze waren op weg naar het andere gebouw, om daar een preek te geven over dit Bijbelverhaal.
Maar waarom hielpen ze dan niet?
Ze hadden haast.
Dit onderzoek – want dat was het – van John Darley en Daniel Batson is wereldberoemd geworden, onder de titel ‘The Samaritan Experiment’. Darley en Batson wilden testen welke invloed de inhoud van je gedachten (de tekst van de Barmhartige Samaritaan) en religieuze motivatie (wat de onderzoekers van tevoren in kaart hadden gebracht) nog zouden hebben op de bereidheid om iemand in nood te helpen, als er tijdsdruk zou worden toegevoegd. Studenten werden daarom in drie groepen ingedeeld, voordat ze de boodschap kregen dat ze naar het andere gebouw moesten lopen om hun preek te geven. De eerste groep kreeg te horen dat ze nog zeeën van tijd hadden, de tweede dat ze precies op tijd zouden zijn, en de derde dat ze al te laat waren en zich moesten haasten. En dit was ook de groep van wie bijna niemand stopte.
Er is ontzettend veel over dit onderzoek geschreven en nagedacht. Ik denk ook omdat het een grote symbolische waarde heeft. De ironie ligt er dik bovenop, net zoals in de oorspronkelijke gelijkenis. Ook daar waren het de religieuze leiders die niet stopten om te helpen. In alle discussie over het onderzoek was het oordeel niet zelden best mild. Veel theologen concludeerden dat de studenten het ook niet makkelijk hadden, omdat ze tussen twee plichten moesten kiezen: de morele plicht – het helpen van de kwetsbare – maar ook de plicht beloftes na te komen in het systeem waar je onderdeel van uitmaakt. Je wilt ook degenen die je iets beloofd hebt niet teleurstellen. Sommige studenten waren zo taakgericht bezig dat ze de hulpbehoevende man niet eens opmerkten. De verwachtingen van het systeem – het niet teleurstellen van de professor – wonnen het.
Theoloog Stanley Hauerwas – die voor zover ik weet niet op het experiment zelf gereageerd heeft – beschrijft dat ieder mens dit probleem heeft. We zitten namelijk gevangen in systemen van macht, waarbij presteren en tijdsdruk dermate veel op de voorgrond staan dat minder concrete of minder urgente morele waarden naar de achtergrond verdreven worden. We denken daarbij dat we rationele keuzes maken maar worden ongemerkt gestuurd door het systeem waar we onderdeel van zijn.
In een tijd waarin AI vol in opkomst is, en ons leven nog veel verder gesystematiseerd gaat worden, inclusief bijbehorende moraal, doemt er daarmee een toekomst op waarin we dermate ingebed zijn in systemen, dat we degenen die door dat systeem verpletterd worden helemaal niet meer zien.
Wat vraagt dat van ons?
Hauerwas heeft een aantal ideeën. Deugden ontwikkelen allereerst. Meer dan morele waardes die je gelooft, moet je goed gedrag oefenen en dagelijks in de praktijk brengen. En dat gaat met vallen en opstaan. Tijd verspillen vindt hij ook belangrijk: bewust vertragen, het liefst ten bate van iemand anders. En tot slot daarna ook eerlijk zijn: als je te laat bent, zeg dan niet dat je agenda te vol was, maar dat je het systeem voor liet gaan over iemand anders. Het klinkt niet fraai, maar is wel waar en het leert je om het systeem te herkennen. Want uiteindelijk houd je ook een eigen verantwoordelijkheid.
Als we niet oppassen, neemt het systeem mensen te grazen. Dat was al zo in een gelijkenis van 2000 jaar geleden, en dat was zo in de jaren ’70 van de vorige eeuw. Met een grote verdere systematisering op komst, wordt het tijd om die feilbaarheid onder ogen te komen. Buiten het systeem leven kan niet, maar elke dag proberen er even uit te stappen wel.

Matthijs den Otter is bestuurskundige, theoloog en metaldrummer. Hij werkt als adviseur inclusie, mensenrechten en het tegengaan van radicalisering en polarisatie bij de gemeente Utrecht, en promoveert aan de Vrije Universiteit Amsterdam op de rol die het hiernamaals speelt in het geloof van fundamentalistische christenen en moslims. Daarnaast speelt hij in de Nederlandse metalband Mountain Eye.