Wiskundigen komen in verzet tegen AI-bedrijven om omstreden bewijzen

Een groep van 25 vooraanstaande wiskundigen heeft een open brief ondertekend waarin ze stellen dat AI-labs als OpenAI hun werk in gevaar brengen. De aanleiding: bedrijven jagen elkaar op om als eerste beroemde wiskundige problemen op te lossen met behulp van kunstmatige intelligentie, zonder dat er tijd is voor zorgvuldige controle en eerbetoon aan de mensen die het voorwerk deden.

De zaak kwam deze week in een stroomversnelling toen Tristan Buckmaster, hoogleraar aan de New York University, OpenAI ervan beschuldigde hem onder druk te hebben gezet om een medewerker van concurrent Anthropic niet te noemen als medeauteur van een belangrijke wiskundige oplossing. Buckmaster vraagt zich bovendien af of OpenAI de resultaten van die samenwerking heeft gebruikt om met zijn programmeertool Codex in een marathonweekend een eigen doorbraak te produceren. Dat bewijs van OpenAI is tot op heden niet onafhankelijk geverifieerd. Later deze week trok OpenAI zich terug als sponsor van een wiskunde-evenement aan het California Institute of Technology (Caltech), nadat onderzoekers van de universiteit kritiek hadden geuit op het bedrijf.

Snelheid versus zorgvuldigheid

De kern van het bezwaar van de wiskundigen zit in de manier waarop AI-bedrijven met resultaten naar buiten komen. Oplossingen worden vaak binnen enkele dagen aangekondigd, zonder de tijd te nemen voor een nette schriftelijke uitwerking, het isoleren van nieuwe methodes of het correct citeren van eerder werk van collega's. Dat leidt volgens de briefschrijvers tot ernstige vragen over plagiaat en toeschrijving van eer, precies zoals in andere creatieve beroepen. Zonder wiskundigen die de nieuwe inzichten zorgvuldig inbedden in het bestaande vakgebied, blijven AI-gegenereerde ideeën volgens hen een dode letter.

Er speelt nog een ander probleem: onderzoekers die gebruikmaken van AI-programmeertools zoals Codex vrezen dat hun eigen werk vervolgens ongevraagd wordt gebruikt om de volgende generatie AI-modellen te trainen. Dat ondermijnt het vertrouwen in de open onderzoekscultuur die de wiskunde van oudsher kenmerkt. Als een AI-lab tientallen miljoenen dollars kan inzetten om met behulp van taalmodellen sneller tot een bewijs te komen dan de oorspronkelijke onderzoekers, ontstaat een prikkel om onderzoek juist geheim te houden in plaats van te delen.

Een breder probleem dan alleen wiskunde

De open brief volgt op de zogeheten Leiden Declaration, een document dat een werkgroep van wiskundigen in juni publiceerde met aanbevelingen voor onderzoekers, instellingen en beleidsmakers over de omgang met AI-bewijzen. Net als bij softwareontwikkelaars, van wie het werk al ingrijpend verandert door AI-hulpmiddelen, benadrukken wiskundigen dat de waarde van hun vak niet alleen in het eindresultaat zit. Minstens zo belangrijk is de manier waarop kennis wordt overgedragen aan studenten en verweven raakt met de rest van de wetenschap. De briefschrijvers waarschuwen dat dit geen typisch wiskundig probleem is: als AI-systemen steeds vaker sneller tot resultaten komen dan mensen, dreigt in elk vakgebied hetzelfde spanningsveld tussen snelheid en zorgvuldige kennisoverdracht te ontstaan.