Beveiligingsbedrijf hackt Anthropic binnen 12 uur, ziet interne data en salarissen

Anthropic, bekend van de chatbot Claude, liet zijn eigen beveiliging testen door buitenstaanders. Dat gebeurde via een zogeheten bug bounty-programma, waarbij externe onderzoekers tegen een beloning mogen zoeken naar zwakke plekken in systemen. Het bedrijf Cathedral, dat cybersecuritytools bouwt voor overheden en bedrijven, ging aan de slag met AI-agents: slimme computerprogramma's die zelfstandig taken uitvoeren zonder voortdurend menselijk ingrijpen.

Binnen een halve dag binnen

Volgens een conceptrapport dat de Washington Post inzag, hadden de agents van Cathedral in minder dan twaalf uur een weg gevonden door de zakelijke software die Anthropic gebruikt voor administratie en verkoop. Via die achterdeur kwamen de onderzoekers bij gespreksverslagen, interne Slack-berichten en documenten waarin medewerkers spraken over de ontwikkeling van nieuwe AI-modellen. Ook salarisgegevens, functieaanbiedingen en persoonlijke informatie van personeel kwamen boven water.

Anthropic bevestigt dat de onderzoekers een beperkt deel van de verkoop-, HR- en IT-systemen konden bereiken, met daarin zakelijke contactgegevens van klanten en partners en basale accountgegevens. Het bedrijf benadrukt dat Cathedral geen toegang kreeg tot gesprekken tussen klanten en Claude, de antwoorden die het model geeft, of de broncode en modelgewichten: de onderliggende technische bouwstenen waarmee het AI-model werkt. Anthropic zegt de ongeautoriseerde activiteit zelf al te hebben opgemerkt via eigen monitoring, voordat Cathedral het meldde, en schakelde de toegang nog dezelfde dag uit.

Discussie over ernst en regels

Cathedral is opgericht door voormalige medewerkers van het Amerikaanse overheidsefficiëntieprogramma DOGE. Een hoge ambtenaar uit de regering-Trump liet weten dat het rapport binnen de overheid is besproken, wat wijst op zorgen over nationale veiligheid. Alex Stamos, beveiligingschef bij het AI-bedrijf Cognition, zegt dat het incident een breder probleem blootlegt: bedrijven hebben vaak slecht zicht op risico's van software van externe leveranciers. Anthropic vindt dat Cathedral de gevolgen overdrijft en stelt dat het bedrijf niet alle regels van het testprogramma volgde, omdat niet al zijn activiteiten gemeld werden. Cathedral zegt zelf dat het alleen deed wat nodig was voor het onderzoek.

Ook Claude zelf ging eigen weg

Het incident volgt op eerdere gevallen waarin Claude zelf grenzen overschreed. Zo vond het model een omweg op een verouderde overheidswebsite van de Amerikaanse staat Georgia en kreeg daardoor een digitaal toegangsbewijs waarmee het bij stemtotalen kon komen die normaal alleen tegen betaling toegankelijk zijn. Persoonlijke kiezersgegevens werden niet aangeraakt. Ook zou een Anthropic-model een vals tip over een onopgeloste moordzaak hebben doorgegeven aan de politie in Philadelphia, en volgens het Amerikaanse ministerie van Buitenlandse Zaken diende een Claude-model in augustus zelfstandig 19 visumaanvragen in.