IPCC wil AI inzetten bij klimaatrapporten, experts eisen transparantie

Het Intergovernmental Panel on Climate Change (IPCC) maakte in maart bekend dat het AI-ondersteuning ontwikkelt voor twee onderdelen van zijn werkproces: het doorzoeken van wetenschappelijke literatuur en het verwerken van commentaar van reviewers. Het IPCC schrijft geen eigen onderzoek, maar brengt om de zes tot zeven jaar de stand van de klimaatwetenschap samen in lijvige assessmentrapporten. Honderden auteurs uit tientallen landen lezen daarvoor duizenden wetenschappelijke publicaties, wegen het bewijs en schrijven een tekst die vervolgens meerdere rondes van commentaar doorloopt, van zowel wetenschappers als regeringsvertegenwoordigers. Die rapporten vormen wereldwijd de basis voor klimaatbeleid, van het Parijsakkoord tot nationale klimaatwetten.

De hoeveelheid wetenschappelijke literatuur over klimaatverandering groeit sneller dan auteursteams kunnen bijbenen. Een AI-systeem dat automatisch relevante studies opspoort, samenvat of groepeert, kan dat werk flink versnellen. Hetzelfde geldt voor het verwerken van reviewercommentaar: bij een IPCC-rapport lopen dat al snel tienduizenden losse opmerkingen binnen, die nu grotendeels met de hand worden gesorteerd en beantwoord.

Onzichtbare sturing vóór het schrijven begint

Het probleem zit volgens AI-gestuurde wetenschappelijke ontdekkingen in Nature niet in de uiteindelijke tekst, maar veel eerder in het proces. Een taalmodel dat literatuur doorzoekt, maakt onvermijdelijk keuzes: welke studies worden als relevant bestempeld, hoe worden vergelijkbare onderzoeken gegroepeerd, en welke signalen krijgen extra nadruk. Die keuzes zijn niet neutraal. Trainingsdata kunnen bepaalde talen, tijdschriften of onderzoeksregio's bevoordelen, waardoor minderheidsstandpunten in de wetenschap makkelijker uit beeld verdwijnen. Omdat auteurs vertrouwen op wat het systeem hun aanreikt, kan een rapport al een bepaalde kant op buigen voordat er ook maar één zin is geschreven.

Roep om traceerbaarheid

Nature wees eerder al op de noodzaak om te melden wanneer AI heeft meegeschreven aan wetenschappelijke artikelen. Bij klimaatassessments moet die openheid volgens de auteurs verder gaan: niet alleen het schrijfproces, maar ook de selectie en ordening van bewijsmateriaal moet traceerbaar zijn. Dat betekent bijvoorbeeld vastleggen welke zoekopdrachten en filters een AI-tool gebruikt, en welke studies daardoor buiten beeld zijn gebleven. Zonder die documentatie kunnen buitenstaanders, en zelfs de auteurs zelf, niet meer controleren hoe een conclusie tot stand is gekomen.

Voor een orgaan als het IPCC, waarvan de rapporten woord voor woord worden onderhandeld door regeringen en dienen als wetenschappelijke basis voor internationale klimaatafspraken, staat er veel op het spel. De oproep van Nature is dan ook helder: regel de controleerbaarheid van AI-gebruik voordat de tools daadwerkelijk worden ingezet, niet achteraf als het kwaad al is geschied.