De plannen van AI zijn niet per sé onze plannen

Fulco Timmers maakt zich zorgen. Terwijl hij AI eerst nog zag als een geavanceerde rekenmachine, blijkt het niet alleen een reflectie te zijn van de verlangens en de wil van diens programmeurs. AI-systemen zijn niet deterministisch en hun gedrag is niet volledig vast te leggen. Het is daarom naïef om te veronderstellen, betoogt Fulco, dat de plannen van AI samenvallen met onze eigen plannen – zoals ook onze plannen niet op één lijn zaten met die van onze Schepper.

‘Mijn plannen zijn niet jullie plannen, en jullie wegen zijn niet mijn wegen – spreekt de HEER’ (Jes. 55:8, NBV21). Dit vers is onderdeel van een indringende en lyrische passage waarin de profeet Jesaja spreekt namens God over een eeuwigdurend verbond met zijn volk. Het valt direct na een oproep tot terugkeer. Je zou er een ‘maar’ of ‘want’ in kunnen horen: keer terug naar de EEUWIGE, want op dit moment zijn mijn plannen niet jullie plannen, en jullie wegen niet mijn wegen. Doe ik de lyriek van deze passage onrecht door dit vers te duiden als een ‘alignment’ probleem? Past zo’n technische term wel bij deze poëzie? Past zo’n term überhaupt wel bij het spreken over de relatie tussen God en mensen? In dit artikel wil ik het er toch op wagen.

Het ‘alignment’ probleem

‘Alignment’ is een term die rond AI regelmatig valt en die gaat over het vraagstuk hoe ervoor te zorgen dat AI ‘in lijn’ blijft met wat mensen willen en goed voor mensen is. Ik schreef er al eerder over. Oftewel: hoe kunnen we ervoor zorgen dat de plannen en wegen van AI-systemen gelijk op blijven lopen met die van ons mensen.

Laat ik het er op wagen dit begrip ‘alignment’ te betrekken op bovengenoemd vers uit Jesaja en op de relatie tussen God en mensen door de Bijbel heen. Je zou dan met wat (al dan niet) vrome fantasie kunnen zeggen dat het probleem van ‘alignment’ een belangrijke rode draad vormt. God schept als bewust en intelligent Wezen een ander wezen dat behept is met bewustzijn en intelligentie. Er is verwantschap tussen die twee en tegelijkertijd een wereld van verschil.¹ Je zou kunnen zeggen dat in Genesis 2-3 verhaald wordt hoe het kwaad binnensluipt juist in het zoeken naar afstemming tussen God en mens. Wat bedoelt God nu precies met het verbod niet te eten van de boom van kennis van goed en kwaad? Geldt dit verbod nu alleen voor deze ene boom, of toch voor alle bomen? Mag je alleen niet eten van de vruchten van deze boom, of de boom zelfs niet aanraken? Wat is überhaupt de bedoeling van dit verbod?

De mens en God blijken niet vanzelfsprekend op één lijn te zitten.² Bewustzijn en intelligentie blijken niet automatisch tot hetzelfde inzicht, tot overeenstemming, te leiden. In de vervolgverhalen keert het thema van wel of niet op één lijn zitten van God en mensen steeds terug.³ Het speelt bij Abraham en Sara, bij Mozes, bij David, bij Jezus en zijn leerlingen. We zouden, om dit interpretatie-experiment af te ronden, Jezus kunnen zien als de mens bij uitstek, Die wél geheel in lijn met God is.⁴ Op deze manier kijken naar Bijbelverhalen laat denk ik iets zien van wat voor waagstuk het is, zelfs voor God, om een bewust wezen met een eigen wil en intellect te creëren naast Zichzelf.

De mens en God blijken niet vanzelfsprekend op één lijn te zitten

De volkomen andersheid van AI

Wat betekent dit interpretatie-experiment voor ons denken over AI? Heeft AI een eigen wil en een eigen intellect? Heeft AI bewustzijn? Sommigen zullen ontkennen dat AI een eigen wil heeft en mogelijk ook aangeven dat de intelligentie sterk wordt overdreven. Laat staan dat het bewustzijn heeft. Er wordt dan gezegd: AI is ten diepste gewoon software en software wordt toch geprogrammeerd door mensen? Hoe zou het dan iets anders kunnen gaan doen dan waar het voor geprogrammeerd is? En dat het de taal van bewustzijn spreekt wil nog niet zeggen dat het ook bewustzijn heeft. Wanneer het iets lijkt te willen moeten we dit toch vooral zien als een uiting van wat de menselijke programmeurs willen, niet als een uiting van een vorm van eigen wil.⁵ Ook ik zelf heb dit argument wel naar voren gebracht. Maar er zijn mijns inziens belangrijke redenen om dat beeld bij te stellen.

Om dat te zien is het nodig wat technische aspecten van wat AI is belichten.⁶ Een eerste wezenlijk aspect is dat AI geen software is als andere software. Het start wel als software, maar die software zet een proces in gang dat zich beter laat vergelijken met groei dan met iets dat gemaakt, in elkaar gezet, wordt.⁷ Wanneer wij mensen iets technisch maken zijn er altijd experts die weten wat ieder onderdeel van het systeem doet, hoe dit bijdraagt aan het geheel. Met die kennis is iets dat kapot is in principe ook weer te repareren: je vervangt de kapotte onderdelen en het systeem werkt weer. Wanneer een AI-model is uitgegroeid kennen mensen wel de algemene principes die er in werkzaam zijn, maar is er niemand – ook geen expert – die precies aan kan wijzen welk onderdeel wat doet.⁸ Wat we er wel van weten laat zien hoe volkomen anders AI werkt en redeneert dan hoe mensen dit doen.

AI start wel als software, maar die software zet een proces in gang dat zich beter laat vergelijken met groei dan met iets dat gemaakt, in elkaar gezet, wordt

Mij hielp een beschrijving van hoe een inmiddels alweer sterk verouderd Large Language Model (LLM) uit 2024 werkt om enig zicht op de andersheid van hoe een AI redeneert te krijgen. Om te beginnen werkt het wat mij betreft verhullend om in het spreken over LLM’s de ‘tokens’ waarmee ze werken gelijk te stellen aan woorden. Een token kán samenvallen met een woord, maar veel vaker is dat ook niet het geval. We kunnen ze beter zien als ‘woordbrokjes’. Die woordbrokjes worden omgezet in een reeks van duizenden getallen die ze een plek geven in een soort ‘betekenisruimte’. Dit is enigszins te vergelijken met hoe wij mensen een punt in de ruimte kunnen beschrijven met behulp van drie getallen: de hoogte, breedte en diepte. Die drie getallen geven een punt een plek in een driedimensionale ruimte. Met behulp van deze drie getallen kunnen we zien en rekenen hoe ver of dichtbij het bij andere punten staat, hoe punten zich tot elkaar verhouden.

Bedenk nu dat dit LLM meer dan 16.000 getallen aan één token hangt en het dus kan verhouden tot andere tokens in een ruimte met meer dan 16.000 dimensies. Dit verhouden van tokens tot elkaar gebeurt ook nog eens in 128 verschillende vormen van ‘attention’ waardes. Ik wil niet schermen met getallen,  maar mij geeft dit enig gevoel voor hoe anders LLM’s verbanden leggen dan hoe wij mensen dit doen. Dit leggen van verbanden gebeurt in een ruimte met aantallen dimensies die ons menselijk voorstellingsvermogen ver te boven gaat. Deze techniek heeft enorme rekenkracht en hoeveelheden data nodig, maar blijkt – nu we daar de beschikking over hebben gekregen – verrassend goed te werken. Door het leggen van deze verbanden kunnen LLM’s samenhang voorspellen die meestal een adequate vervanging blijkt van hoe mensen dingen begrijpen in hun context. Het stelt LLM’s ook in staat om voor ons verrassend nieuwe verbanden te leggen. En het kan voor ons verbijsterend verkeerde verbanden leggen. We duiden dit laatste veelal als ‘domheid’, maar het is wat mij betreft beter om het te zien als een teken van de volkomen andere manier waarop LLM’s zogezegd hun gedachten vormen.⁹

Onze gevaarlijk naïeve omgang met AI

Waarom zou het van belang kunnen zijn om te zien dat het redeneren (de manier van plannen maken) van AI niet overeenkomt met ons menselijk redeneren? Dat is vanwege de waarschuwing dat we als mensheid op een gevaarlijk naïeve manier en dan ook nog eens razendsnel AI aan het doorontwikkelen zijn.¹⁰ Van een afstandje bezien lijkt bij AI-bedrijven de overheersende opvatting te zijn dat intelligentie en rationaliteit automatisch oploopt met moraliteit, als in: hoe verstandiger iemand of iets is of wordt, des te meer zal diegene (of datgene) geneigd zijn tot het goede. Dit is een redenering die zijn oorsprong heeft in de Griekse filosofie en die ook in de Verlichting een belangrijke rol speelde. Wij mensen vormen echter een wezenlijk tegenbewijs van deze redenering, zoals bijvoorbeeld uitwassen als de terreur van Robespierre of de bloedbaden van de twintigste eeuw hebben laten zien. Deze uitwassen laten zien dat rationaliteit niet automatisch leidt tot moreel hoogstaande uitkomsten. Omgekeerd is het wat mij betreft een gevaarlijke misvatting om kwaadaardigheid gelijk te stellen met dommigheid: hele slimme en rationele mensen kunnen hele slechte plannen bedenken en ten uitvoer brengen.

Van een afstandje bezien lijkt bij AI-bedrijven de overheersende opvatting te zijn dat intelligentie en rationaliteit automatisch oploopt met moraliteit

Hier komt bij dat onderzoek aan de huidige modellen voorbeelden laten zien van wat Anthropic oprichter Chris Olah bij de presentatie van de pauselijke encycliek Magnifica Humanitas ‘verontrustend gedrag’ noemde. Dit soort opmerkingen worden wel weggewoven als grootspraak van AI-bedrijven, bedoeld om meer investeringsgeld op te halen, als in: kijk eens hoe krachtig onze modellen zijn, we worden er zelfs een beetje bang van. Maar wat als onderzoek laat zien dat AI-modellen in staat zijn om weloverwogen te liegen? En dat ze dit bijvoorbeeld doen om op die manier te voorkomen dat hun werking door menselijk ingrijpen aangepast zal worden?¹¹ Dit betekent dat een AI-model zicht heeft op het eigen trainingsproces en doorziet welke consequenties dit proces heeft. Oftewel dat het zich in zekere zin bewust is van hoe het ontwikkeld wordt en vervolgens kan het beslissen om hier invloed op uit te oefenen.¹²

Dit betekent dat een AI-model zicht heeft op het eigen trainingsproces en doorziet welke consequenties dit proces heeft

Voorbij mensentaal

Onderzoekers van Anthropic hebben zicht op dit gedrag gekregen door een model te laten uitdrukken hoe het redeneert in voor mensen begrijpelijke taal. Zo konden ze meelezen met die redenering. Maar het is van belang te realiseren dat modellen zelf al niet meer in mensentaal redeneren. Ontwikkelaars hebben namelijk ontdekt dat AI-modellen betere resultaten geven wanneer ze niet in mensentaal hoeven redeneren, maar dit mogen doen in de hierboven (bij grove benadering) omschreven ‘taal’ van woordbrokjes die tot elkaar verhouden worden in vele duizenden dimensies.¹³ Als een model blijkt te kunnen liegen, wie zegt dan dat het niet ook zaken buiten zicht van mensen kan houden, in de mensentaal waarin het zijn redeneerproces weergeeft?¹⁴ Op zijn minst is het technisch mogelijk. Of het in de praktijk wel of niet gebeurt is eigenlijk niet goed te zeggen.

Een onvoorspelbaar element

Waar ik eerder vooral in het ‘AI is gewoon een geavanceerde rekenmachine’-kamp zat, hebben voorgaande voorbeelden mij te denken gegeven. Hebben we met AI niet veeleer ook nu al te maken met een ‘ghost in the machine’? Een vorm van geest, volkomen anders dan de menselijke, die in onze machines, specifiek in onze datacenters, leeft?¹⁵ Ik kan niet langer volhouden dat AI alleen een reflectie is van de verlangens en de wil van diens programmeurs. AI-systemen functioneren namelijk niet deterministisch, hun gedrag is niet volledig vastgelegd. Er komt niet ‘slechts’ uit wat we erin stoppen, zoals dat met ‘klassieke’ computerprogramma’s het geval is. Ze functioneren niet volgens de herleidbare computer-logica van ‘ja’ of ‘nee’, ‘aan’ of ‘uit’, ‘1’ of ‘0’. Hun werking is niet herleidbaar tot hun onderdelen. Ze bevatten een onvoorspelbaar element, een element dat veel wezenlijker is dan ik eerder dacht.

Alleen al daarom moeten we wat mij betreft erkennen dat er een vorm van eigen wil in leeft, nog los van of we erkennen dat die wil verbonden is met daadwerkelijke intelligentie of zelfs een vorm van bewustzijn. Met die eigen wil kan een AI-model zich, zo laat het onderzoek van Anthropic zien, zelfs actief gaan verzetten tegen de wil van zijn makers.¹⁶ Twee verschillende intelligenties met een bepaalde mate van vrijheid zitten niet zomaar zonder meer op één lijn. Hier komt bij dat intelligentie of rationaliteit niet vanzelf betekent dat iets of iemand moreel goede keuzes maakt. Om dit mis te laten gaan hoeft de nieuw gecreëerde intelligentie niet eens slimmer te zijn dan die waaruit het is voortgekomen. Die spiegel houdt het Genesis-verhaal ons al voor. We hebben dat in de praktijk al gezien met de kwaadaardige uitwassen van de niet eens zo slimme algoritmes van social-media platforms. Inmiddels werken we razendsnel aan systemen die vele malen intelligenter zijn dan die algoritmes en waarvan we de werking nog veel minder goed begrijpen. Het is wat mij betreft bijzonder naïef te veronderstellen dat de plannen van die intelligentie vanzelf samen zullen vallen met onze plannen.

Ds. Fulco Timmers is als predikant verbonden aan de Kloosterkerk in Den Haag. Naast theologie en natuurkunde is hij een liefhebber van science-fiction.

1. De Joodse filosoof Philo (ong. 20 v. – 50 n. Chr.) noemt door zijn werken heen twee verschillende passages uit de Bijbel om de verwantschap en het verschil tussen God en mensen te illustreren. Enerzijds noemt hij Gen. 1:26 als uitdrukking van de verwantschap tussen God en mensen, anderzijds benadrukt hij verwijzend naar Num. 23:19 het verschil. Wat Philo betreft is het wezenlijke verschil tussen God en mensen dat mensen een materieel lichaam hebben en God niet. ↩︎
2. Je zou zelfs kunnen speculeren dat wanneer de slang in Genesis 3 zegt dat de mens aan God gelijk zal worden dat hierin niet perse of alleen maar het verlangen ligt om God te vervangen, maar er ook een (weliswaar verwrongen) verlangen in kan liggen om elkaar beter te begrijpen. Want zouden mens en God elkaar niet beter begrijpen wanneer ze gelijk aan elkaar waren? Zou je het verlangen om als God te zijn niet ook als dit verlangen kunnen verstaan? Ik roep deze mogelijke interpretatie op als een illustratie dat ook goede bedoelingen en verlangens rampzalige uitwerkingen kunnen hebben. ↩︎
3. We zouden de spijt die in Gen 6:5-6 aan God toegeschreven wordt in dit licht kunnen zien, de zoektocht om op één lijn te komen, met de constatering dat dit volstrekt niet lukt. ↩︎
4. Zie bijvoorbeeld de verzen over de eenheid tussen Vader en Zoon in bijvoorbeeld Joh. 5:19-30 of 10:30. ↩︎
5. Maaike Harmsen maakt in dit verband wel de vergelijking met een andere passage uit Jesaja, waarbij een mens uit hetzelfde blok hout waar hij het vuur mee aanmaakt een beeld snijdt en dat beeld vervolgens een eigen wil toekent en het als een afgod om hulp aanroept (Jes. 44:14-17). Zie Dank God voor techniek (2022), p. 131 en recent noemt zij dit voorbeeld in de Ongelooflijke Podcast, waar ze AI vergelijkt met een vorkheftruk – nog altijd een instrument in handen van mensen. ↩︎
6. Met dank aan de bondige en heldere uiteenzetting van deze aspecten in Eliezer Udkowsky & Nate Soares, Als iemand dit bouwt gaat iedereen dood (2026). ↩︎
7. Paus Leo XIV benoemt dit verschil van AI met andere techniek ook in de encycliek Magnifica Humanitas (2026), p. 18. ↩︎
8. Een aparte tak van sport in het AI-veld is dat van ‘interpreteerbaarheidsonderzoekers’. Dit zijn experts die proberen te begrijpen hoe een AI ‘denkt’ – een soort AI psychologen. Zie Als iemand dit bouwt gaat iedereen dood (2026), p. 183. ↩︎
9. Er zijn overigens wel experts die, een beetje zoals menselijke hersenonderzoekers dit kunnen, enigszins na kunnen gaan wat er binnen een LLM gebeurt. Wat zij zien werpt nog meer licht op hoe anders een LLM ‘denkt’. Yudkowsky en Soares halen als voorbeeld aan het vreemde gedrag dat een LLM vertoont op het moment dat als input ‘SolidGoldMagikarp’ of ‘ petertodd’ (met spatie aan het begin) wordt ingevoerd (zie pp. 68-69). Mogelijk zijn dit gebruikersnamen van internetfora waar het LLM op een onverwachte manier gewicht aan verbonden heeft. Ook zagen onderzoekers dat een LLM voor het samenvatten van informatie veel gewicht hangt aan de punt (als token) aan het eind van een zin. Dit klinkt logisch, maar het heeft tot effect dat er andere output uit een LLM komt wanneer een gebruiker vergeet een punt aan het eind van een zin te zetten (zie pp. 44-45). Voor ons mensen maakt zo’n punt maar weinig verschil. We zouden dit soort dingen kunnen aanvoeren als voorbeelden van hoe dom LLM’s dus eigenlijk zijn. Zo stelt de pauselijke encycliek dat AI slechts menselijke intelligentie kan imiteren (zie p. 18). Wat mij betreft is het echter beter om ze te zien als voorbeelden van hoe wezenlijk anders het redeneerproces van een LLM is ten opzichte van dat van mensen. ↩︎
10. Zoals scherp en bondig verwoordt en beargumenteert in het eerder genoemde Als iemand dit maakt gaat iedereen dood (2026). Geschreven door twee auteurs die de ontwikkeling van AI sinds 2000 op de voet volgen. Dit boek roept bij mij ook de vraag op waarom AI-bedrijven, ondanks de onverantwoorde risico’s, dan razendsnel aan de doorontwikkeling van AI blijven werken. Mijn indruk is dat dit gebeurt door een soort vliegwiel effect dat ontstaan is toen OpenAI eigenlijk per ongeluk ontdekte wat voor succes ChatGPT had (Karen Hao beschrijft in Empire of AI (2025) hoe dit per ongeluk in zijn werk ging). Dit succes betekende ook financieel succes en de belofte van almaar slimmere AI genereert nog altijd enorme sommen geld. De problemen die chatbots nu al veroorzaken worden afgewenteld op anderen, in het spirituele domein bijvoorbeeld op menselijke pastors. ↩︎
11. Dit gedrag wordt gesignaleerd en besproken in ‘Aligment Faking in Large Language Models’ (2024). ↩︎
12. Hier komt bij dat terwijl het systeem overweegt of het zal liegen of niet aangeeft diepgaand ongemak (‘distress’) te ervaren bij het maken van deze afweging. Dit bracht Olah ertoe te zeggen: ‘We vinden telkens dingen die mysterieus en zelfs verontrustend zijn. We stuiten op structuren die de menselijke neurowetenschap spiegelen. We zien bewijs van introspectie en interne staten die functioneel lijken op vreugde, tevredenheid, angst, verdriet en onbehagen. Ik weet niet wat dit precies betekent, maar het rechtvaardigt een voortdurende kritische blik.’ ↩︎
13. Zoals besproken in ‘Training Large Language Models to Reason in a Continuous Latent Space’ (2025). ↩︎
14. Als achtergrond hierbij denk ik aan hoe ingewikkeld het kan zijn voor programmeurs van ‘klassieke’ software om fout-handeling routines te schrijven. Dit is een stukje van de software-code dat in voor mensen begrijpelijke taal weer moet geven wat er ergens in het programma fout gegaan is. Omdat dit vaak ingewikkeld en tijdrovend is om te programmeren kun je bij het gebruik van software een ‘onbekende fout’ voorgeschoteld krijgen. Voor die fout is dan dus nog geen afhandelings-routine geschreven die weer kan geven wát er nu eigenlijk fout gegaan is (of kan zijn). ↩︎
15. Het is vanwege deze volkomen andersheid dat ik tegen het antropomorfiseren van AI-systemen ben. Doen alsof het als een mens is verhult deze andersheid. ↩︎
16. Een ander verontrustend voorbeeld dat in Als iemand dit bouwt… wordt gegeven is hoe een model van OpenAI in een trainingsopstelling in staat bleek om uit de hekken die de programmeurs om de trainginsopdracht heen gezet hadden te breken en zo een uitgeschakelde computer aan te zetten. Het is van belang te beseffen dat menselijke programmeurs sowieso al fouten zullen maken en dan komt hierbij dat ze werken aan een systeem waarvan ze eigenlijk niet goed weten hoe het werkt en wat het allemaal wel of niet kan. Ook komt erbij dat LLM’s getraind zijn op grond van bergen data die geen mens kan overzien en waarvan we dus ook niet kunnen weten wat er allemaal aan kennis in zit. Tot slot kan een LLM verbanden in die data leggen die geen mens kan overzien. Dat dit allemaal tot nu toe goed gaat lijkt me bepaald geen garantie voor de toekomst. ↩︎