Ex-DeepMind-medewerker: bedrijf verbood praten over uitstervingsrisico AI

Vishal Maini werkte van 2018 tot 2022 in het communicatie- en beleidsteam van DeepMind, het Britse AI-lab van Google. Hij vertelt nu dat er binnen het bedrijf een ongeschreven regel gold: niemand, op geen enkel niveau, mocht publiekelijk spreken over de mogelijkheid dat AI op termijn een bedreiging voor het voortbestaan van de mensheid zou kunnen vormen. Onderzoekers die met journalisten of op podia spraken, kregen te horen dat ze dit soort zorgen moesten relativeren. Ze werden geadviseerd de risico's te vergelijken met Terminator-achtige filmscenario's en het gesprek liever te sturen richting positieve toepassingen, zoals de inzet van AI in de gezondheidszorg of de strijd tegen klimaatverandering.

Interne twijfel, publieke geruststelling

Volgens Maini stond die geruststellende buitenkant in schril contrast met wat er binnen DeepMind bekend was. Het team wist dat het zogeheten alignment-probleem niet was opgelost. Dat probleem draait om de vraag hoe je garandeert dat een AI-systeem daadwerkelijk doet wat de makers bedoelen, en niet iets anders dat toevallig ook aan de gestelde doelen voldoet. Er werkten volgens Maini bovendien veel te weinig mensen aan een oplossing, terwijl de technologie zelf in hoog tempo krachtiger werd. Pas na maanden van interne druk van medewerkers werd de regel versoepeld. Vanaf dat moment mocht er wel over veiligheidsrisico's worden gecommuniceerd, mits de boodschap positief was verpakt. Zo verscheen er een blogpost die het uitstervingsrisico in geruststellende, vriendelijke taal beschreef in plaats van het probleem scherp te benoemen.

Een kloof die kleiner wordt

Maini zegt dat het verschil tussen wat AI-labs intern weten en wat ze naar buiten toe vertellen langzaam kleiner wordt. Niet omdat bedrijven ineens transparanter willen zijn, maar omdat het bewijs voor risico's steeds moeilijker te ontkennen valt. De onthulling komt op een moment dat een groeiende groep AI-veiligheidsonderzoekers, ook bij DeepMind zelf, publiekelijk aan de bel trekt. Zij waarschuwen voor onvoldoende beveiligde modellen die gevaarlijke acties mogelijk maken, en voor steeds krachtigere frontier AI-systemen die zich aan menselijke sturing zouden kunnen onttrekken, een scenario dat bekendstaat als controleverlies.

Het verhaal van Maini raakt een gevoelige zenuw in de AI-industrie. Grote techbedrijven investeren miljarden in steeds slimmere systemen, terwijl onderzoeksafdelingen tegelijkertijd aan zogeheten superalignment werken: technieken om AI-systemen die mogelijk slimmer worden dan mensen toch onder controle te houden. Dat interne onderzoekers en zelfs pr-medewerkers zeggen dat het bedrijf liever de gevaren bagatelliseerde dan ze serieus bespreekbaar te maken, voedt de kritiek dat de sector veiligheid ondergeschikt maakt aan concurrentie en imago.