Microsoft-baas: ongecontroleerde AI kan uitgroeien tot rivaliserende 'siliconensoort'

Mustafa Suleyman, hoofd van Microsofts AI-divisie, waarschuwde deze week voor de opkomst van wat hij een "siliconensoort" noemt: AI-systemen die zo veel vrijheid krijgen dat ze uiteindelijk om grondstoffen en macht met de mens gaan concurreren. In een interview met het BBC-programma Today zei Suleyman dat de zorgen over AI terecht zijn, maar dat er wel degelijk praktische manieren zijn om de technologie onder controle te houden.

Kritiek op de aanpak van Anthropic

Suleyman richt zijn pijlen vooral op branchegenoot Anthropic, de maker van chatbot Claude. In een essay dat hij eerder deze week publiceerde, noemt hij de aanpak van Anthropic-topman Dario Amodei "misguided": misleid. Anthropic zou Claude te veel menselijke trekjes geven, een praktijk die bekendstaat als antropomorfisering. Daardoor lijkt het alsof de chatbot eigen wensen, waarden en een besef van zichzelf heeft, terwijl dat volgens Suleyman niet zo is. "AI's zijn niet bewust. Ze voelen niets en lijden niet. Het zijn tekstvoorspellende machines, van binnen leeg, gebouwd om instructies te volgen en doelen te halen die mensen stellen", schreef hij. Hij benadrukt wel dat hij Amodei en zijn team ziet als "intellectueel eerlijke mensen", maar vindt dat de manier waarop techbedrijven hun modellen trainen te weinig transparant is. Suleyman pleit voor onafhankelijke controle op het gedrag van AI-systemen en betere instrumenten om ze te monitoren en bij te sturen, zodat de mensheid niet "slaapwandelend" in een besluit terechtkomt waar ze later spijt van krijgt.

'Humanistische superintelligentie' als tegenwicht

Volgens Suleyman moet geavanceerde superintelligentie altijd ondergeschikt blijven aan de mens. Dat uitgangspunt komt terug in de "Humanist AI Code of Conduct", een gedragscode die Microsoft deze week publiceerde. Daarin staat dat AI weliswaar krachtiger mag worden, maar altijd voor mensen moet blijven werken, binnen grenzen moet opereren en onder menselijke controle moet blijven. Microsoft richtte in oktober 2025 een eigen team op dat aan superintelligente AI werkt en concurreert dus zelf ook met Anthropic op dit vlak. Centraal in de discussie staat het begrip alignment: het zorgen dat AI-systemen zich houden aan menselijke waarden en niet hun eigen agenda gaan volgen. "Iedereen die mens is, heeft er baat bij dat de systemen die we bouwen veilig, controleerbaar en ondergeschikt aan de mensheid zijn", aldus Suleyman.

Verdeeldheid in de sector

De uitspraken van Suleyman komen niet uit de lucht vallen. De afgelopen weken waarschuwden ook andere kopstukken uit de sector, waaronder de baas van OpenAI, voor de risico's van steeds zelfstandiger opererende AI. Hoeveel autonomie een AGI of ander geavanceerd systeem mag krijgen, verdeelt de frontier AI-industrie steeds meer. Dame Wendy Hall, hoogleraar computerwetenschappen aan de University of Southampton, noemt het gesprek dat Suleyman aanzwengelt juist waardevol. Ze omschrijft het als het soort discussie dat internationaal gevoerd moet worden, in tegenstelling tot wat ze de overdreven dramatiek van sommige AI-bedrijven noemt, die volgens haar vooral iedereen bang maken. Anthropic heeft nog niet gereageerd op de kritiek van Suleyman.