Causale redeneerketen: hoe AI leert denken in oorzaak en gevolg
Een causale redeneerketen is een reeks redeneerstappen waarin een systeem — meestal een kunstmatige intelligentie — niet alleen constateert dat twee dingen vaak samen voorkomen, maar expliciet nagaat wat de een veroorzaakt bij de ander. In plaats van "regen en natte straten komen vaak samen voor" redeneert het systeem: "regen veroorzaakt natte straten, natte straten verhogen het remrisico, dus rijd ik voorzichtiger". Elke stap in die keten legt een oorzaak-gevolgrelatie vast, en de stappen worden aan elkaar geregen tot een conclusie.
Een goede analogie is een rechercheur die een misdaad oplost. Een naïeve aanpak zou zijn: "deze verdachte was vaak in de buurt van eerdere incidenten, dus is hij schuldig." Dat is puur statistisch, en het kan volledig mis zijn — misschien woont de verdachte daar toevallig. Een goede rechercheur bouwt in plaats daarvan een keten: motief leidde tot plan, plan leidde tot aanwezigheid op de plek delict, aanwezigheid leidde tot gelegenheid. Elke schakel is een verklaarbare oorzaak-gevolgstap, geen toevallige samenhang. Dat onderscheid — tussen "komt vaak samen voor" en "veroorzaakt daadwerkelijk" — is precies waar causale redeneerketens over gaan, en het is een van de hardnekkigste problemen in de kunstmatige intelligentie van vandaag.
Wat is het precies?
Het uitgangspunt is een onderscheid dat in de statistiek al decennia bekend is: correlatie is niet hetzelfde als causaliteit. Als twee variabelen samen bewegen, wil dat niet zeggen dat de een de ander veroorzaakt; er kan ook een derde, verborgen factor zijn die beide beïnvloedt. IJsverkoop en verdrinkingen stijgen allebei in de zomer, maar ijs veroorzaakt geen verdrinking — warm weer verklaart beide.
De filosoof en informaticus Judea Pearl bracht hier structuur in met wat hij de "ladder van causaliteit" noemt, uitgewerkt in zijn boek The Book of Why (2018, samen met Dana Mackenzie). Deze ladder heeft drie treden. De onderste trede is associatie: wat valt op als je gegevens observeert ("patiënten die medicijn X kregen, herstelden vaker"). De middelste trede is interventie: wat gebeurt er als je actief ingrijpt ("als we medicijn X aan alle patiënten geven, hoeveel herstellen er dan"). De bovenste trede is de counterfactual of contrafeitelijke vraag: wat zou er zijn gebeurd als iets anders was gedaan ("was deze patiënt hersteld als hij het medicijn niet had gekregen?"). Een systeem dat écht causaal redeneert, moet in principe op alle drie de niveaus kunnen antwoorden, niet alleen op het eerste.
In de praktijk bouwt men hiervoor vaak een causaal diagram: een netwerk van pijlen tussen variabelen dat aangeeft welke factor welke andere beïnvloedt. Met wiskundige gereedschappen — met name de zogeheten "do-calculus" die Pearl ontwikkelde — kun je in zo'n diagram berekenen wat het effect van een ingreep zou zijn, zonder dat je die ingreep echt hoeft uit te voeren. Een causale redeneerketen is dan het stap-voor-stap doorlopen van zo'n diagram: welke schakels zijn relevant voor de vraag, in welke volgorde werken ze op elkaar in, en welke conclusie volgt daaruit.
Bij grote taalmodellen (de technologie achter chatbots zoals ChatGPT en Claude) heeft dit idee een tweede, losser gebruikte betekenis gekregen. Deze modellen kunnen worden aangemoedigd om een probleem op te splitsen in tussenstappen voordat ze een antwoord geven — bekend als "chain-of-thought" of gedachteketen-redeneren. Wanneer die tussenstappen expliciet oorzaak-gevolgrelaties benoemen ("omdat A gebeurt, volgt B, en daardoor C"), spreekt men van een causale redeneerketen. Dit is minder wiskundig streng dan Pearls formele aanpak, maar het probeert hetzelfde probleem op te lossen: voorkomen dat een systeem een antwoord geeft dat toevallig lijkt te kloppen zonder dat het de onderliggende mechanismen begrijpt.
Wat wil men ermee bereiken?
Het belangrijkste doel is betrouwbaarheid. Modellen die alleen op correlaties trainen, leren soms de verkeerde les. Een veelgenoemd voorbeeld uit onderzoek naar zelfrijdende auto's: een systeem dat leerde rijden door menselijke chauffeurs te observeren, koppelde het aangaan van het eigen remlicht aan de beslissing om te remmen, in plaats van aan de eigenlijke oorzaak (een obstakel op de weg). Zodra de situatie net iets anders was, faalde het systeem. Causaal redeneren moet dit soort "schijnverbanden" blootleggen.
Een tweede doel is uitlegbaarheid. Een systeem dat een keten van oorzaak-gevolgstappen kan tonen, is voor mensen makkelijker te controleren dan een systeem dat alleen een uitkomst geeft. Dat is belangrijk in gevoelige toepassingen zoals medische diagnostiek, kredietbeoordeling of juridisch advies, waar een arts, bankmedewerker of rechter moet kunnen navragen waaróm een systeem tot een conclusie kwam.
Een derde doel is het ondersteunen van "wat als"-vragen, essentieel voor planning en beleid. Een gezondheidsorganisatie wil weten wat er gebeurt als een vaccinatiecampagne wordt uitgebreid, niet alleen wat er in het verleden samenhing met vaccinatiegraad. Causale modellen zijn in principe geschikt om dat soort ingrepen door te rekenen, terwijl puur statistische modellen dat niet kunnen omdat ze nooit een echte interventie hebben waargenomen.
Tot slot hoopt men dat causaal redeneren hallucinaties bij taalmodellen vermindert — het verzinnen van overtuigend klinkende maar onjuiste informatie. Als een model gedwongen wordt zijn redenering expliciet en stap voor stap te tonen, is de gedachte dat fouten eerder opvallen, zowel voor de gebruiker als voor het model zelf tijdens het genereren.
Voorbeelden uit de praktijk
The Book of Why (2018) van Judea Pearl en Dana Mackenzie populariseerde de causale ladder en de do-calculus buiten de academische wereld, en wordt in het vakgebied vaak als startpunt genoemd voor het serieus nemen van causaliteit binnen machine learning.
DoWhy, een open source Python-bibliotheek die vanaf 2018 door onderzoekers van Microsoft Research is ontwikkeld, laat gebruikers een causaal diagram opstellen en daar automatisch effectschattingen en gevoeligheidstoetsen op uitvoeren. Het project valt inmiddels onder het bredere PyWhy-initiatief, waar ook EconML (eveneens Microsoft Research) toe behoort, gericht op het schatten van causale effecten uit observationele data met machine-learningtechnieken.
CausalML is een vergelijkbare open source bibliotheek, ontwikkeld door ingenieurs van Uber, gericht op het schatten van individuele behandeleffecten — bijvoorbeeld: welk effect heeft een kortingsactie op déze specifieke klant, in plaats van op klanten gemiddeld.
Op het gebied van taalmodellen was het onderzoek naar "chain-of-thought prompting" van onderzoekers bij Google (2022) een kantelpunt: door een model te vragen zijn redenering in stappen op te schrijven voordat het een antwoord geeft, verbeterden de prestaties op rekenkundige en logische problemen aanzienlijk. Dit legde de basis voor latere "redeneermodellen" zoals OpenAI's o1 (uitgebracht in september 2024) en DeepSeek-R1 (januari 2025), die intern uitgebreide redeneerketens genereren voordat ze een definitief antwoord geven. Deze ketens zijn niet per se formeel causaal in de zin van Pearl, maar bevatten vaak wel expliciete oorzaak-gevolgredeneringen.
Om te meten of taalmodellen daadwerkelijk causaal redeneren, in plaats van alleen plausibel klinkende tekst te produceren, zijn testverzamelingen ontwikkeld zoals CLadder (2023), samengesteld door onderzoekers verbonden aan onder meer het Max Planck Institute for Intelligent Systems. Deze benchmark confronteert modellen met vragen die specifiek onderscheid vereisen tussen associatie, interventie en contrafeitelijke redenering.
Hoe ver is de techniek?
De ontwikkeling van causaal redeneren verloopt in twee sporen die niet even ver gevorderd zijn. Op gestructureerde data — tabellen met duidelijk gedefinieerde variabelen, zoals in de epidemiologie, econometrie of A/B-testen — is causale inferentie een volwassen vakgebied. Bibliotheken als DoWhy en EconML worden al gebruikt in productieomgevingen bij techbedrijven en in wetenschappelijk onderzoek, en de wiskundige basis (do-calculus, gerandomiseerde experimenten, instrumentele variabelen) staat al decennia stevig.
Op het gebied van taalmodellen ligt dat anders. Onderzoek met benchmarks zoals CLadder laat consequent zien dat zelfs de grootste modellen fouten maken zodra een vraag onderscheid vereist tussen "A en B komen samen voor" en "A veroorzaakt B". Modellen herhalen vaak patronen uit hun trainingsdata zonder een intern, controleerbaar causaal model op te bouwen. De nieuwe generatie "redeneermodellen" (o1, R1 en vergelijkbare systemen) laat wel duidelijke verbetering zien op taken die stapsgewijze logica vereisen, maar onderzoekers zijn het er niet over eens of dit werkelijk causaal begrip weerspiegelt, of vooral een verfijndere vorm van patroonherkenning is die toevallig vaak tot correcte causale antwoorden leidt.
Een fundamenteel obstakel is dat causale diagrammen doorgaans voorkennis vereisen: iemand moet vooraf bepalen welke variabelen relevant zijn en hoe ze mogelijk op elkaar inwerken. Het automatisch "ontdekken" van causale structuur puur uit data (causale discovery) blijft notoir lastig en berust op aannames die niet altijd houdbaar zijn. Voor taalmodellen komt daar nog bij dat ze geen ingebouwd wereldmodel hebben zoals een natuurkundige simulatie; ze leunen op taalpatronen, wat causaal redeneren fundamenteel bemoeilijkt. Kortom: op afgebakende, datarijke domeinen is de techniek praktijkrijp, maar algemeen causaal redeneren binnen AI-systemen is nog volop onderzoeksterrein, zonder dat er consensus is over de beste aanpak.
Wie werken eraan?
Het theoretische fundament komt grotendeels van Judea Pearl en zijn onderzoeksgroep aan de University of California, Los Angeles (UCLA), waar hij al sinds de jaren tachtig aan causale modellen en Bayesiaanse netwerken werkt. Aan het Max Planck Institute for Intelligent Systems in Tübingen (Duitsland) leidt Bernhard Schölkopf een invloedrijke onderzoekslijn die causaliteit en machine learning combineert. Ook onderzoeksgroepen aan ETH Zürich zijn betrokken bij benchmarks voor causaal redeneren.
Microsoft Research investeert structureel in open source gereedschap voor causale inferentie via het PyWhy-project (DoWhy, EconML). Uber draagt bij met CausalML, vooral gericht op praktische toepassingen zoals marketing en productbeslissingen. Op het gebied van redeneermodellen voor taal zijn Google DeepMind (met het oorspronkelijke chain-of-thought-onderzoek), OpenAI (met de o1-modelfamilie) en het Chinese DeepSeek (met R1) de meest zichtbare spelers, al richten zij zich primair op stapsgewijs redeneren in brede zin en niet uitsluitend op formele causaliteit. Daarnaast publiceren universiteiten wereldwijd — waaronder Stanford, MIT en Carnegie Mellon in de Verenigde Staten — regelmatig onderzoek naar causale modellen in combinatie met machine learning.