AI & computing › Generatieve AI & synthetische media
Watermerk in AI-teksten van Claude blijkt bij twee modellen te omzeilen
AI-bedrijf Anthropic voegt een onzichtbaar watermerk toe aan tekst van vier extra Claude-modellen, om te voldoen aan nieuwe EU-regels. Bij twee van die modellen kunnen ontwikkelaars het watermerk echter simpel uitschakelen door één instelling aan te passen, wat de betrouwbaarheid van het label ondermijnt.
Anthropic breidt de onzichtbare watermerktechniek voor AI-gegenereerde tekst uit naar vier extra Claude-modellen: Claude Mythos 5, Claude Opus 4.7, Claude Opus 4.6 en Claude Sonnet 4.6. Nieuwere modellen, zoals Claude Opus 5.5, hebben het watermerk al. Bij gebruikers van Amazon Bedrock kan de uitrol nog een paar dagen langer duren, meldde Anthropic in een e-mail aan klanten die via de API met Claude werken.
Onzichtbaar patroon in woordkeuze
Het watermerk zelf is volgens Anthropic niet te zien of te lezen. Het bedrijf noemt het een "onwaarneembaar patroon in woordkeuze" dat de betekenis, kwaliteit of leesbaarheid van een tekst niet verandert. Er worden geen extra tekens of tokens toegevoegd, de prijs en opmaak van verzoeken blijven gelijk, en de snelheid waarmee Claude antwoord geeft wordt nauwelijks beïnvloed. Ook zou het watermerk geen informatie bevatten over de gebruiker, zijn organisatie of de inhoud van gesprekken. Omdat het watermerk op modelniveau is ingebouwd, werkt het op elk platform waar deze Claude-modellen draaien, waaronder Amazon Web Services, Google Cloud en Microsoft Foundry. Klanten kunnen het niet uitzetten.
Een achterdeurtje bij twee oudere modellen
Toch blijkt het watermerk bij Claude Opus 4.6 en Claude Sonnet 4.6 niet waterdicht. Het werkt alleen als ontwikkelaars drie zogeheten sampling-instellingen op hun standaardwaarde laten staan: temperature, top_p en top_k. Deze parameters bepalen hoeveel willekeur het model gebruikt bij het kiezen van woorden. Wie een van deze drie instellingen ook maar licht aanpast, ontwijkt het watermerk automatisch. Anthropic waarschuwt klanten die het watermerk gebruiken voor compliance-doeleinden dan ook om deze standaardinstellingen vooral niet te wijzigen. Voor Claude Mythos 5 en Claude Opus 4.7 geldt die waarschuwing niet, wat erop wijst dat het watermerk daar wél altijd actief is, ongeacht de instellingen. Het lek is extra opvallend omdat Opus 4.6 geldt als het beste schrijfmodel van Anthropic, beter nog dan het nieuwere Opus 5.5. Voor het controleren van watermerken test Anthropic intussen een detectie-API, die nog niet breed beschikbaar is.
Druk vanuit Europese wetgeving
Anthropic voert de wijziging door vanwege een deadline in de Europese AI-verordening (AI Act), die in december ingaat. Modellen die na 2 augustus 2026 zijn uitgebracht, kregen het watermerk direct mee. Oudere modellen krijgen het nu gefaseerd toegevoegd. Anthropic gebruikt hiervoor een variant van SynthID, de methode die Google DeepMind ontwikkelde en openbaar maakte, en die ook in Google's Gemini-modellen zit. SynthID stuurt subtiel de willekeur bij woordkeuzes, waardoor een statistisch patroon ontstaat dat achteraf te herkennen is. Concurrent OpenAI lanceerde in oktober 2026 een vergelijkbaar systeem, textGrain, maar dat staat alleen standaard aan voor ChatGPT- en Codex-gebruikers in de EU. API-klanten kunnen het overal zelf aan- of uitzetten, en het systeem staat standaard uit.
Niet iedereen is overtuigd dat watermerken de tekstkwaliteit ongemoeid laten. Techblogger John Gruber betoogt dat synoniemen nooit volledig identiek zijn, waardoor het sturen van woordkeuze op basis van een watermerksleutel de precisie van een tekst altijd iets aantast. Vakblad Artificial Lawyer wijst op een ander risico voor advocatenkantoren: cliënten die AI-gebruik verboden hebben, kunnen het watermerk ontdekken, en meerdere watermerken in één document kunnen tot juridische complicaties leiden.
Achtergrond & begrippen
Wat betekent dit voor de toekomst? Watermerken in AI-tekst moeten transparantie bieden over wat door een computer is geschreven, maar deze zaak laat zien dat technische controlemechanismen makkelijk te omzeilen zijn. Nu wetgevers zoals de EU bedrijven verplichten AI-content te labelen, wordt de betrouwbaarheid van zulke labels cruciaal voor vertrouwen in AI-gegenereerde informatie.
- Watermerk (in tekst)
- Een onzichtbaar patroon in de woordkeuze van een tekst, waarmee achteraf kan worden aangetoond dat de tekst door AI is geschreven.
- Sampling-parameters (temperature, top_p, top_k)
- Instellingen die bepalen hoeveel willekeur een taalmodel gebruikt bij het kiezen van het volgende woord in een tekst.
- SynthID
- Een door Google DeepMind ontwikkelde en openbaar gemaakte watermerktechniek die subtiele statistische patronen in AI-tekst aanbrengt.
- EU AI Act
- De Europese wetgeving die regels stelt aan kunstmatige intelligentie, waaronder de verplichting om AI-gegenereerde content herkenbaar te maken.
- API (Application Programming Interface)
- Een interface waarmee ontwikkelaars software kunnen laten communiceren met een AI-model, bijvoorbeeld om teksten te genereren.
- Detectie-API
- Een aparte dienst waarmee bedrijven of toezichthouders kunnen controleren of een tekst een watermerk bevat.
- textGrain
- Het watermerksysteem van OpenAI voor AI-gegenereerde tekst, vergelijkbaar met de aanpak van Anthropic en Google.
Bronnen
Dit artikel is met behulp van AI geschreven op basis van bovenstaande bronnen en is geen letterlijke vertaling. Zo werkt onze redactie.