Grote bedrijven wantrouwen AI-modellen van Anthropic en OpenAI over data

Grote technologiebedrijven zetten de rem op het gebruik van de nieuwste AI-modellen van Anthropic. Chipmaker Nvidia, defensieadviseur Booz Allen Hamilton en dataplatform Palantir vertrouwen het model, dat in juni een nieuw databeleid kreeg, niet meer voor gevoelig werk. Dat meldt zakenmedium The Information. Aanleiding was een aanpassing waarbij Anthropic aankondigde gebruikslogs 30 dagen te bewaren om zich te wapenen tegen 'complexe en nieuwe aanvallen'.

Nvidia en Palantir eisen garanties

Voor bedrijven die hun intellectueel eigendom willen beschermen is dat een probleem. Nvidia zet het model alleen nog in voor minder gevoelige klussen, zoals open-sourceprojecten. Voor interne toepassingen, zoals het bewaken van de eigen toeleveringsketen, gebruikt het bedrijf liever zijn eigen Nemotron-modellen. Nvidia-topman Justin Boitano zegt dat nul-data-retentie voor zijn bedrijf standaard zou moeten zijn, ook al is Nvidia zelf investeerder in Anthropic en levert het de chips waarmee de modellen worden getraind. Booz Allen Hamilton verbood personeel het model te gebruiken voor eigen cybersecuritysoftware. Techchef Bill Vass zegt te vrezen dat het model 'meeleert' van hun code. Palantir gaat nog een stap verder: het bedrijf houdt het model tegen op zijn eigen platform totdat Anthropic onherroepelijke garanties geeft dat er geen data wordt bewaard. Topman Alex Karp noemde klanten die zich 'uitgebuit' voelen door AI-bedrijven.

Ook zonder opslag blijft er een gat

Zelfs als een AI-dienst geen data opslaat, kan een bedrijf nog altijd leren van hoe klanten het systeem gebruiken. Zowel OpenAI als Anthropic verzamelt metadata en technische gebruiksgegevens van zakelijke klanten. OpenAI noemt die data 'de-identificeerd': ontdaan van informatie die naar een specifieke klant te herleiden is. Sommige klanten vinden die uitleg te vaag en willen meer transparantie over wat er precies wordt vastgelegd. Na klachten van klanten en een soortgelijke stap van OpenAI in augustus, waarbij klanten van het cyberbeveiligingsmodel GPT-5.6 hun eigen logs mogen bewaren, kondigde Anthropic een vergelijkbaar programma aan voor een select aantal klanten.

Trainen op gebruikersdata blijft ondoorzichtig

John Schulman, medeoprichter van OpenAI die nu bij Thinking Machines werkt, beschreef onlangs de verschillende manieren waarop AI-bedrijven van gebruikersdata kunnen leren: van rechtstreeks trainen op data tot het bouwen van leertaken op basis van gebruikerssporen, zoals geüploade programmeeromgevingen. Volgens Schulman is 'de-identificatie' een zwakke bescherming, omdat gebruikers vaak met slechts een paar gegevenspunten alsnog te herleiden zijn. AI-onderzoeker Sarah Hooker, voorheen actief bij Cohere en Google DeepMind, waarschuwt voor een vergelijkbaar lek: bedrijven kunnen met slimme synthetische technieken statistische patronen uit data halen zonder de originele data te gebruiken. Ze adviseert bedrijven met veel eigen kennis snel hun eigen AI te bouwen, voordat een groot AI-lab die kennis inhaalt. Hoe reëel de zorgen zijn, bleek uit een zaak rond wiskundige Tristan Buckmaster. Hij en een collega gebruikten OpenAI's programmeertool Codex voor onderzoek naar de Navier-Stokesvergelijkingen. Kort daarna presenteerde OpenAI een eigen doorbraak via dezelfde ongewone oplossingsroute. Het bedrijf kon aanvankelijk niet uitsluiten dat geanonimiseerde gebruiksdata had bijgedragen aan die doorbraak, maar meldde na intern onderzoek dat de prompts van Buckmaster het model niet konden hebben beïnvloed.