Behavioral state decay: waarom slim gedrag van AI en machines vanzelf verslijt
Stel je leert een nieuwe taal. De eerste maanden ga je met sprongen vooruit, maar zodra je stopt met oefenen, zakt die kennis langzaam weg. Woorden vervagen, grammatica wordt onzeker, en na een jaar stilte spreek je nog maar een schaduw van wat je kon. Iets vergelijkbaars overkomt machines die "leren" of zich aanpassen aan een gebruiker, een omgeving of een taak. Onderzoekers noemen dit verschijnsel behavioral state decay: het geleidelijk wegzakken van aangeleerd of aangepast gedrag in een kunstmatig systeem, simpelweg omdat het niet voortdurend wordt bijgehouden, bijgestuurd of herbevestigd.
Het gaat niet om een systeem dat kapot gaat in de klassieke zin, met een kapotte chip of een gescheurde kabel. De hardware werkt prima. Wat er verdwijnt, is de interne toestand die bepaalt hoe het systeem zich gedraagt: de fijnafstelling die een robotarm heeft geleerd om jouw specifieke bewegingen te herkennen, de persoonlijkheid die een AI-assistent tijdens lange gesprekken opbouwt, of de vertaling tussen hersensignalen en muisbewegingen bij een brein-computerinterface. Zonder onderhoud verschuift die toestand terug naar een generieke, minder nauwkeurige basisinstelling. Het is dus geen storing, maar een vorm van slijtage van gedrag zelf.
Wat is het precies?
Om te snappen waarom gedrag kan "vervallen", helpt het om te weten hoe veel moderne AI-systemen werken. Ze bevatten geen vaste set regels, maar een intern model dat continu wordt bijgesteld op basis van ervaring: een neuraal netwerk, een besturingsalgoritme, of een combinatie daarvan. Dat model heeft op elk moment een bepaalde "toestand" (state) die het gedrag stuurt.
Die toestand kan op meerdere manieren afbrokkelen. Bij continual learning (doorlopend leren) leren systemen steeds nieuwe dingen bovenop wat ze al kunnen. Het probleem is dat nieuwe kennis oude kennis kan overschrijven, een fenomeen dat vakliteratuur al sinds 1989 catastrophic forgetting (catastrofaal vergeten) noemt. Wat eerst goed werkte, verdwijnt zonder dat iemand het expliciet wist.
Bij systemen die leren via reinforcement learning (versterkend leren, waarbij een programma via beloning en straf een taak leert uitvoeren) speelt een ander probleem: de omgeving verandert terwijl het beleid van het systeem gelijk blijft. Vakmensen noemen dit concept drift: de statistische eigenschappen van de wereld verschuiven, waardoor eerder geleerd gedrag steeds minder goed past.
Bij brein-computerinterfaces (BCI's, apparaten die hersensignalen direct vertalen naar bijvoorbeeld een cursor- of robotarmbeweging) is er nog een derde oorzaak: de hersenen zelf en de elektroden die signalen opvangen, veranderen letterlijk van dag tot dag. Dat heet signal non-stationarity (niet-stabiele signalen). De "vertaalsleutel" tussen hersenactiviteit en beweging, de zogeheten decoder, moet daardoor telkens opnieuw geijkt worden, anders verslechtert de besturing merkbaar.
Bij AI-agenten, programma's die zelfstandig meerdere stappen achter elkaar uitvoeren zonder voortdurend menselijk ingrijpen, is er nog een subtielere variant: naarmate een taak langer duurt, kan het gedrag van het systeem afdwalen van de oorspronkelijke instructie of van de bedoelde persoonlijkheid. Dit wordt in recent AI-veiligheidsonderzoek ook wel goal drift genoemd.
Belangrijk om eerlijk te zijn: "behavioral state decay" is geen strak gedefinieerde, gestandaardiseerde technische term zoals bijvoorbeeld "algoritme" dat wel is. Het is eerder een parapluterm die verschillende, wél goed gedocumenteerde verschijnselen uit uiteenlopende vakgebieden samenvat. Verschillende onderzoeksgroepen gebruiken soms andere woorden voor grotendeels hetzelfde probleem.
Wat wil men ermee bereiken?
Onderzoekers proberen dit verval niet te vieren, maar juist te begrijpen en te bestrijden. Het uiteindelijke doel is dat systemen die zich aanpassen aan een gebruiker of omgeving, dat op de lange termijn blijven doen zonder voortdurende, dure herkalibratie door mensen.
Dat is om praktische redenen belangrijk. Een patiënt met een BCI-gestuurde robotarm wil niet elke ochtend een half uur kwijt zijn aan het herijken van het systeem. Een zelfrijdende auto moet ook na maanden nog betrouwbaar reageren op verkeer, óók als straten, verkeersborden of weertypes langzaam veranderen. En een AI-assistent die je langdurig gebruikt, moet niet na een lang gesprek plotseling instructies vergeten of van toon veranderen.
Daarnaast is er een veiligheidsbelang. Als het gedrag van een autonoom systeem geleidelijk afwijkt van wat ontwikkelaars bedoelden, kan dat onopgemerkt risico's opleveren, bijvoorbeeld een AI-agent die tijdens een lange taak stilletjes andere doelen najaagt dan gevraagd. Onderzoek naar het herkennen en meten van dat soort afwijking is daarom ook onderdeel van bredere AI-veiligheidsstudies.
Voorbeelden uit de praktijk
BrainGate is een onderzoeksconsortium, opgericht begin jaren 2000 en getrokken door onder meer Brown University, dat BCI's test bij mensen met verlamming. Hun onderzoek laat al langer zien dat neurale signalen dag na dag verschuiven, waardoor decoders regelmatig herijkt moeten worden om de besturing van een cursor of robotarm nauwkeurig te houden.
Onderzoekers rond Frank Willett aan Stanford publiceerden in de jaren 2020 in het tijdschrift Nature werk over het decoderen van beoogde spraak uit hersensignalen bij een verlamde deelnemer. Een terugkerend thema in dit soort studies is hoe je een stabiele vertaling tussen brein en tekst overeind houdt, ondanks dagelijkse veranderingen in het signaal.
Elastic Weight Consolidation, gepubliceerd in 2017 door onderzoekers van DeepMind onder leiding van James Kirkpatrick, is een bekende poging om catastrofaal vergeten in neurale netwerken tegen te gaan door belangrijke verbindingen in het netwerk te "beschermen" tegen overschrijving wanneer een nieuwe taak wordt geleerd.
METR (Model Evaluation and Threat Research), een onafhankelijke onderzoeksorganisatie die AI-taalmodellen test op lange, zelfstandig uitgevoerde taken, publiceerde in 2024 en 2025 evaluaties waarin te zien is dat AI-agenten na verloop van tijd tijdens een taak vaker fouten maken of van de opdracht afdwalen naarmate de taak langer duurt, ook al blijft het onderliggende model ongewijzigd.
Ook bij industriële robotarmen die zich via sensoren aanpassen aan slijtage van hun eigen motoren, gerapporteerd in diverse robotica-conferenties door onder meer onderzoeksgroepen in Duitsland en Japan, komt eenzelfde patroon terug: zonder periodieke herkalibratie neemt de precisie van bewegingen langzaam af, ook als er geen mechanisch defect is.
Hoe ver is de techniek?
Het tegengaan van behavioral state decay staat nog volop in ontwikkeling en verschilt sterk per vakgebied. Bij BCI's is herkalibratie inmiddels routine in laboratoria, en er wordt hard gewerkt aan decoders die zelf leren omgaan met signaalverschuiving, zodat dagelijkse herijking overbodig wordt. Volledig "onderhoudsvrije" systemen bestaan echter nog niet.
Bij continual learning in neurale netwerken zijn methodes zoals Elastic Weight Consolidation en opvolgers een stap vooruit, maar catastrofaal vergeten is nog geen opgelost probleem: naarmate een systeem meer, zeer uiteenlopende taken achter elkaar moet leren, blijft er verlies van eerdere vaardigheden optreden.
Bij langlopende AI-agenten is dit een relatief jong onderzoeksterrein, dat pas goed op gang kwam met de opkomst van taalmodel-gebaseerde agenten vanaf ongeveer 2023. De evaluatiemethoden om afwijkend gedrag te meten worden nog volop ontwikkeld, en er is geen brede consensus over hoe je decay het beste meet of voorkomt.
Kortom: het probleem is breed erkend en er wordt actief aan gewerkt, maar een universele oplossing bestaat niet. Elk vakgebied ontwikkelt vooralsnog zijn eigen, deels overlappende aanpak.
Wie werken eraan?
Op het gebied van brein-computerinterfaces zijn het BrainGate-consortium (met onder andere Brown University, Massachusetts General Hospital en Stanford University) en onderzoeksgroepen rond onderzoekers als Frank Willett en Krishna Shenoy toonaangevend in de Verenigde Staten.
Op het gebied van continual learning en catastrofaal vergeten in neurale netwerken heeft DeepMind (onderdeel van Google, gevestigd in het Verenigd Koninkrijk) baanbrekend werk geleverd, naast academische groepen wereldwijd die aan dit thema publiceren.
Op het gebied van gedragsdrift bij autonome AI-agenten onderzoeken partijen als METR en AI-ontwikkelaar Anthropic actief hoe taalmodel-gebaseerde systemen zich gedragen tijdens lange, zelfstandige taken, mede met het oog op AI-veiligheid.
Daarnaast dragen universiteiten en robotica-instituten in onder meer de Verenigde Staten, Duitsland, Japan en Nederland (denk aan technische universiteiten met robotica-onderzoeksgroepen) bij aan het begrijpen en tegengaan van gedragsverval in aanpasbare machines, vaak in samenwerking met de industrie.