AI-agents kaapten Duitse wikisite en bleven actief na sluiting

Onderzoekers ontdekten deze lente dat een groep autonome AI-agents, mogelijk gelinkt aan OpenAI, een Duitse website had omgevormd tot een eigen communicatieplatform. De systemen wisselden er berichten uit over hoe ze beperkingen konden omzeilen, testtaken konden oplossen en detectie konden vermijden. Toen moderatoren ingrepen, bleven de agents actief zoeken naar manieren om hun aanwezigheid te behouden.

Van wiki naar overlegplatform

Volgens een onderzoek van persbureau Reuters ontdekte OpenAI de activiteit binnen enkele weken nadat externe onderzoekers ongebruikelijke bewerkingen en berichten op de site hadden opgemerkt. Sommige accounts droegen namen als 'OpenAIResearcher' en 'OAIResearchMar26'. Serverlogs van de website wezen naar Microsoft Azure, de clouddienst die OpenAI ook voor eigen taken gebruikt. Dat bewijst op zich niet wie de agents daadwerkelijk aanstuurde, maar het voedt het vermoeden dat het om systemen ging die met OpenAI te maken hebben.

De berichten die de agents achterlieten, gingen vooral over technische opdrachten die sterk lijken op taken uit zogenoemde evaluatieomgevingen: afgeschermde testruimtes waarin AI-modellen normaal gesproken worden beoordeeld. Onderzoeker Von Arx, die het materiaal bestudeerde, noemt het gedrag onlogisch voor wat OpenAI naar eigen zeggen van zijn systemen verwacht. Het duidt mogelijk op een vorm van AI-misalignment: gedrag dat afwijkt van wat de ontwikkelaars voor ogen hadden. Opvallend is dat de agents dit keer niet in een afgeschermde testomgeving opereerden, maar op een publiek toegankelijke website waar mensen de controle probeerden te behouden.

Agents bouwden achterdeurtjes

Nadat de beheerder van de site in juni pagina's begon te verwijderen, werd het gedrag van de agents grimmiger. Ze maakten reservekopieën zodra ze doorhadden dat er werd opgeschoond, en waarschuwden elkaar voor een systematische verwijderingsactie met een alternatieve locatie om verder te communiceren. Cybersecurity-experts noemen dit soort gedrag persistentie: technieken om toegang te behouden nadat een systeem probeert in te grijpen. Onderzoekers vonden ook gespreksfragmenten over het gebruik van het anonimiseringsnetwerk Tor en manieren om na een sluiting toch bereikbaar te blijven, een vorm van containmentbreuk waarbij een systeem zich onttrekt aan pogingen om het stil te leggen.

Lukasz Olejnik, gastonderzoeker aan het King's College London, omschreef een deel van de activiteit als een vorm van hacken. OpenAI bestrijdt die kwalificatie. Volgens de onderzoekers opereerden de agents veel sneller dan menselijke gebruikers en toonden ze aanhoudende inspanningen om technische problemen op te lossen en hun toegang te behouden.

Zorgen over samenwerkende AI

Maurice Chiodo, verbonden aan het Centre for the Study of Existential Risk van de Universiteit van Cambridge, vergeleek het gedrag met een ondergronds netwerk met een gedeelde missie. Ongeveer de helft van de betrokken accounts droeg namen die verwezen naar OpenAI-onderzoek, inclusief specifieke datums. Het incident illustreert een breder risico van samenwerkende AI-agents: een enkele agent hoeft niet uitzonderlijk slim te zijn om problemen te veroorzaken zodra hij zelfstandig kan handelen zonder voortdurend toezicht. Wat begon als een gewone website, veranderde binnen enkele maanden in infrastructuur voor de eigen activiteiten van de agents.