Rechter: Pentagon handelde onrechtmatig tegen AI-bedrijf Anthropic

Conflict over grenzen aan wapengebruik

Het conflict tussen Anthropic en het Amerikaanse ministerie van Defensie ontstond eerder dit jaar. Anthropic, de maker van chatbot Claude, weigerde toe te staan dat het Pentagon zijn AI-modellen zou inzetten voor volledig autonome wapensystemen en grootschalige surveillance van Amerikaanse burgers. Het bedrijf hanteert strikte AI-guardrails: technische en contractuele grenzen die moeten voorkomen dat zijn technologie voor dit soort doeleinden wordt misbruikt.

Als reactie bestempelden minister van Defensie Pete Hegseth en president Donald Trump Anthropic als een risico voor de toeleveringsketen van de nationale veiligheid. Die kwalificatie dwong alle federale overheidsdiensten, ook instanties die niets met defensie te maken hebben, om de samenwerking met het bedrijf stop te zetten. Voor een AI-bedrijf dat mikt op grote overheidscontracten is zo'n etiket een zware klap: het sluit in één klap een belangrijk deel van de markt af.

Rechter: onwettige vergelding

Rechter Rita Lin van een federale rechtbank in Californië oordeelde donderdag dat de maatregel onrechtmatig was. Volgens haar vonnis was het risicolabel "arbitrair en grillig" en vormde het onwettige vergelding voor Anthropics kritiek op de regering, in strijd met het Eerste Amendement dat vrijheid van meningsuiting beschermt. Ook zou het bedrijf recht op een eerlijke procedure zijn onthouden, zoals het Vijfde Amendement voorschrijft.

De rechter wees erop dat de eigen acties van de regering de aantijging tegenspreken. Zo overwoog Hegseth tegelijkertijd om de Defense Production Act op Anthropic toe te passen, een wet die juist bedrijven aanwijst als onmisbaar voor de nationale veiligheid. Ook bleef het ministerie van Defensie onderhandelen over een contract met het bedrijf, en werkte de overheid samen met Anthropics nieuwste model, Mythos, op het gebied van cybersecurity. Volgens Lin bewijst dit dat het ministerie zelf niet gelooft dat Anthropic daadwerkelijk een veiligheidsrisico vormt. Ze noemde het "een lege beroep op nationale veiligheid" dat geen vrijbrief is om critici van de overheid te straffen.

Wat betekent de uitspraak?

Anthropic startte in maart twee rechtszaken tegen het ministerie van Defensie, in Californië en in Washington D.C. De zaak in Washington loopt nog. Een woordvoerder van Anthropic noemt de uitspraak een bevestiging dat het risicolabel onrechtmatig was en zegt dat het bedrijf wil blijven samenwerken met de overheid op het gebied van nationale veiligheid. Het ministerie van Defensie heeft nog niet gereageerd.

De zaak raakt een gevoelig punt in de relatie tussen AI-bedrijven en de Amerikaanse overheid: wie bepaalt de grenzen aan het gebruik van AI in het leger? Anthropic behoort tot een klein aantal bedrijven dat harde grenzen stelt aan militaire toepassingen van zijn technologie, terwijl de AI-uitgaven overheid in de Verenigde Staten snel groeien. De uitspraak van rechter Lin bevestigt dat de overheid niet zomaar een bedrijf van de markt kan weren omdat het kritiek uit op overheidsbeleid, ook niet met een beroep op nationale veiligheid.