Omissieblindheid: waarom we weglatingen zoveel slechter zien dan fouten
Stel je voor: een taalmodel schrijft een medisch verslag over een patiënt. Het noemt geen enkel verkeerd symptoom, geen enkele foute diagnose — alles wat er staat, klopt. Toch mist het verslag één cruciale waarneming: een vlek op een longfoto die op iets ernstigs kan wijzen. Niemand die het verslag leest, springt op, want er staat niets fout. Er staat alleen iets niet. Dat blinde vlek voor wat ontbreekt, in plaats van wat onjuist is, noemen we omissieblindheid.
Het woord klinkt technisch, maar het verschijnsel is heel herkenbaar. Een sollicitatiebrief zonder spelfouten oogt beter dan een brief mét spelfouten, ook als de eerste belangrijke ervaring gewoon weglaat. Een nieuwsbericht dat feitelijk klopt, kan alsnog een vertekend beeld geven door wat het niet vertelt. Bij mensen is dit al decennia bekend als een denkfout; bij kunstmatige intelligentie is het inmiddels een urgent onderzoeksthema, omdat chatbots, samenvattingstools en zoeksystemen op enorme schaal teksten produceren waarin je nooit ziet wat er ontbreekt.
Wat is het precies?
Om omissieblindheid te begrijpen, helpt het om twee soorten fouten uit elkaar te houden. Een foutieve toevoeging (in het Engels een commission error) is iets onjuists dat wél in een tekst staat: een verzonnen jaartal, een niet-bestaand citaat, een fout getal. Een weglating (omission error) is iets belangrijks dat er niet in staat, terwijl het er wel in had gemoeten.
Mensen — en, zoals blijkt, ook geautomatiseerde controlesystemen — zijn van nature veel beter in het opsporen van de eerste soort fout dan de tweede. Dat heeft een simpele reden: om een foutieve bewering te herkennen, hoef je alleen de tekst zelf te vergelijken met wat je weet. Om een weglating te herkennen, moet je je iets voorstellen dat er niet staat. Je hebt dus kennis nodig van wat er allemaal had gekund, en die kennis is zelden compleet. Psychologen noemen deze onderliggende denkfout al sinds de jaren negentig omission neglect of omission bias: mensen wegen wat wél gezegd wordt zwaarder mee dan wat achterwege blijft, ook als die weglating net zo belangrijk — of gevaarlijker — is.
Bij AI-systemen speelt dit probleem op twee niveaus tegelijk. Ten eerste kunnen taalmodellen zelf onvolledige antwoorden geven: ze noemen drie van de vijf relevante bijwerkingen van een medicijn, of vatten een lang rapport samen zonder de belangrijkste conclusie. Ten tweede — en dat is minstens zo belangrijk — zijn de systemen die we gebruiken om AI-output te controleren vaak zelf omissieblind. Automatische factcheck-tools en menselijke beoordelaars scoren een tekst hoog als alles wat erin staat klopt, zonder systematisch te toetsen of er iets ontbreekt. Zo kan een AI-antwoord als 'feitelijk correct' door de controle komen, terwijl het een vertekend of gevaarlijk onvolledig beeld geeft.
Wat wil men ermee bereiken?
Onderzoekers die zich met dit probleem bezighouden, willen vooral één ding: evaluatiemethoden voor AI die niet alleen naar precisie kijken (klopt wat er staat?) maar ook naar volledigheid of recall (staat er ook alles wat erin had gemoeten?). Dat klinkt als een technisch detail, maar het raakt de kern van vertrouwen in AI-systemen.
In risicovolle domeinen — gezondheidszorg, recht, journalistiek, financiële advisering — kan een weglating net zo schadelijk zijn als een leugen, en soms schadelijker, juist omdat niemand het opmerkt. Een AI-samenvatting van een medisch dossier die een allergie weglaat, kan tot een verkeerde behandeling leiden zonder dat er ooit een 'foute' zin is geschreven. Het doel is dus om instrumenten te ontwikkelen die expliciet meten wat ontbreekt, zodat gebruikers en toezichthouders niet louter op het gevoel van 'er staat niks fout' hoeven te vertrouwen.
Een tweede, breder doel is bewustwording: journalisten, artsen, juristen en burgers leren dat 'geen foutmelding' niet hetzelfde is als 'compleet'. Dat besef is net zo belangrijk als de technische oplossingen zelf.
Voorbeelden uit de praktijk
Het probleem is nog relatief jong als apart onderzoeksveld, maar er zijn concrete projecten die er direct of zijdelings aan raken.
- FActScore (2023) — onderzoekers van de University of Washington en Meta AI (met Sewon Min als eerste auteur) ontwikkelden deze methode om lange, door AI gegenereerde teksten (zoals biografieën) op te knippen in losse feitelijke beweringen en die één voor één te checken. De makers erkennen expliciet dat hun methode vooral precisie meet en dat het meten van weglatingen — of een tekst wel alle belangrijke feiten bevat — een veel lastiger, nog onopgelost probleem is.
- TRUE-benchmark (2022) — een team van Google Research bracht verschillende methoden samen om de feitelijke consistentie van AI-gegenereerde tekst te meten. Ook hier ligt de nadruk op het detecteren van tegenspraak met de brontekst, niet op het missen van informatie.
- Community Notes op X (voorheen Birdwatch, sinds 2021) — dit door gebruikers gedragen factcheck-systeem kent een aparte categorie voor berichten die 'belangrijke context missen', naast categorieën voor ronduit onjuiste claims. Uit de eigen documentatie van het platform blijkt dat dit type notitie moeilijker consensus krijgt dan notities over pure onwaarheden, wat het onderliggende probleem van omissieblindheid concreet illustreert.
- Onderzoek naar AI in radiologie (2019-2023) — meerdere studies naar geautomatiseerde beoordeling van röntgen- en CT-scans (onder meer rond de CheXpert-dataset van Stanford) wijzen erop dat gemiste afwijkingen (omissies) in de praktijk lastiger te detecteren zijn, zowel door software als door menselijke controleurs, dan onterecht gerapporteerde afwijkingen.
- De Europese AI-verordening (EU AI Act, van kracht sinds 2024) — verplicht aanbieders van hoogrisico-AI-systemen tot documentatie over de beperkingen van hun systeem. Dit is geen onderzoek naar omissieblindheid zelf, maar een regelgevend antwoord op hetzelfde onderliggende risico: dat gebruikers niet zien wat een AI-systeem nÃét kan of weet.
Hoe ver is de techniek?
Omissieblindheid is geen technologie die je kunt 'uitrollen', maar een erkend probleem waarvoor pas de laatste paar jaar serieus naar oplossingen wordt gezocht — vooral sinds 2022-2023, toen chatbots en samenvattingstools in een stroomversnelling raakten. De vooruitgang in het meten van feitelijke juistheid van AI-tekst is de afgelopen jaren groot geweest; benchmarks zoals FActScore en TRUE zijn breed gebruikt geworden in onderzoek naar taalmodellen.
Het meten van volledigheid loopt daar duidelijk op achter, en dat heeft een fundamentele reden: om vast te stellen of iets ontbreekt, heb je een betrouwbare referentie nodig van wat er allemaal had moeten staan. Bij een simpel feit is dat soms nog te doen, maar bij complexe onderwerpen — een medisch dossier, een juridisch contract, een nieuwsgebeurtenis — is zo'n volledige referentielijst zelf al moeilijk samen te stellen, laten staan automatisch te controleren. Dit maakt omissiedetectie een van de hardnekkigere open problemen in AI-evaluatieonderzoek, zonder dat er op dit moment een doorbraak in zicht is.
Wie werken eraan?
Het onderzoek is verspreid over verschillende disciplines en instellingen, eerder dan geconcentreerd in één centrum.
Op het gebied van taalmodel-evaluatie zijn onderzoeksgroepen aan de University of Washington en het Allen Institute for AI (AI2) actief, evenals onderzoekers bij Google Research en Meta AI. In de medische hoek doen onder meer teams rond Stanford University onderzoek naar gemiste bevindingen in AI-ondersteunde beeldvorming. Factcheckorganisaties zoals het Britse Full Fact werken in de praktijk met het onderscheid tussen onware en onvolledige claims. Platforms als X (met Community Notes) experimenteren met manieren om gebruikers zelf ontbrekende context te laten aandragen. Op regelgevend niveau zet de Europese Unie, met de AI-verordening, druk op aanbieders om beperkingen van hun systemen te documenteren — een indirecte, maar reële poging om de gevolgen van omissieblindheid in te perken.
Belangrijk om eerlijk te zijn: de term 'omissieblindheid' zelf is in het Nederlands nog geen gevestigd, breed gebruikt vakbegrip met één duidelijke oorsprong. Het beschrijft een fenomeen dat in de psychologie al langer bekend staat als omission neglect, en dat de afgelopen jaren opnieuw relevant is geworden binnen AI-onderzoek. De genoemde projecten en instellingen raken dit probleem aan vanuit hun eigen invalshoek, zonder dat er (nog) één gezamenlijk onderzoeksveld met die specifieke naam bestaat.