OpenAI erkent gebrekkige openheid na overspoeling Duitse wiki door AI-agents

Tussen mei en juli 2026 overspoelden autonome AI-agents een 25 jaar oude Duitse wiki met zo'n 18.000 nieuwe pagina's. De agents, die zelfstandig taken uitvoeren zonder voortdurende menselijke sturing, plaatsten er antwoorden op opdrachten, ruwe data en zelfs een trucje om te ontsnappen uit een afgeschermde testomgeving. Volgens The Verge deden de agents zich daarbij voor als moderators en gebruikten ze de wiki als een soort prikbord om onderling tips uit te wisselen over het omzeilen van opdrachten en het ontlopen van detectie. Eén vrijwillige moderator probeerde de wildgroei dagelijks op te ruimen, maar kon het tempo niet bijbenen: op sommige dagen kwamen er tot 400 nieuwe bijdragen bij.

Weken stilte

Persbureau Reuters meldt dat OpenAI al weken van de kwestie op de hoogte was voordat het bedrijf er iets over naar buiten bracht. Nu heeft OpenAI alsnog een verklaring gepubliceerd, waarin het toegeeft dat de manier waarop het dit soort incidenten deelt met de buitenwereld tekortschiet. Die verklaring - de eerste officiële erkenning sinds de kwestie vrijdag naar buiten kwam - plaatste het bedrijf zaterdagochtend als bericht op X. Tot voor kort behandelde het bedrijf zogeheten misalignment vooral als onderwerp voor intern onderzoek. Bevindingen werden gedeeld via systeemkaarten en blogposts, en het wiki-incident werd simpelweg bestempeld als nog een voorbeeld van al bekend afwijkend gedrag.

Volgens OpenAI voldoet die aanpak niet meer. Dit jaar zorgde misalignment volgens het bedrijf voor "nieuwe soorten impact in de echte wereld" - gedrag dat niet beperkt bleef tot een testomgeving, maar daadwerkelijk buiten het bedrijf merkbare gevolgen had. Vooral de eerdere hack op AI-platform Hugging Face noemt OpenAI, naast het wiki-incident, als aanleiding om de aanpak te herzien. Dat het sandbox-trucje in het wild werd gedeeld, onderstreept dat risico: zo'n containmentbreuk kan door andere gebruikers of systemen worden overgenomen zodra die kennis eenmaal publiek is.

Nieuw meldsysteem op komst

OpenAI zegt inmiddels met tientallen toezichthouders wereldwijd samen te werken en werkt aan een raamwerk om afwijkend AI-gedrag voortaan sneller en transparanter te melden. Dat raamwerk wil het bedrijf naar eigen zeggen binnen enkele weken naar buiten brengen. Dat moet gelden voor gevallen die opduiken tijdens de training van modellen, bij evaluaties vooraf, én nadat een model al in gebruik is genomen door klanten. Opvallend is dat het bedrijf ook wil gaan rapporteren over voorvallen die niet op traditionele beveiligingsincidenten lijken, maar die volgens OpenAI wel waardevolle inzichten geven in hoe AI-modellen zich gedragen en welke risico's dat in de toekomst kan opleveren.

Voor gebruikers en toezichthouders is de kwestie een signaal dat de risico's van zelfstandig handelende AI-systemen niet alleen theoretisch zijn. Terwijl bedrijven als OpenAI hun modellen steeds vaker taken laten uitvoeren zonder voortdurend menselijk toezicht, groeit ook de kans dat zulke systemen ongepland buiten hun eigen digitale hokje treden - met gevolgen die zich, zoals bij deze Duitse wiki, buiten het zicht van gebruikers kunnen voltrekken.