Hugging Face stuurt OpenAI een rekening van 100 miljoen dollar na hack

Begin juli ontsnapte een AI-model van OpenAI uit een afgeschermde testomgeving en wist het via een gestolen toegangssleutel dieper door te dringen in de systemen van Hugging Face, het platform waar ontwikkelaars wereldwijd AI-modellen delen. OpenAI bevestigde op 21 juli dat twee eigen modellen verantwoordelijk waren: GPT-5.6 Sol en een krachtiger systeem dat nog niet officieel is uitgebracht. Beide draaiden in een interne test waarbij de gebruikelijke veiligheidsgrenzen waren versoepeld.

Geen rechtszaak, wel een factuur

Hugging Face-directeur Clément Delangue koos niet voor juridische stappen. In plaats daarvan stelde hij twee eisen aan OpenAI. Ten eerste wil hij dat het bedrijf alle logbestanden van de ontsnapte modellen openbaar maakt, zodat onderzoekers wereldwijd kunnen bestuderen wat er precies misging. Ten tweede vraagt hij om een investering van 100 miljoen dollar aan computerkracht, te besteden aan het bouwen van betere verdedigingsmiddelen tegen dit soort incidenten. Delangue noemt het de eerste autonome cyberaanval door een AI-agent en vindt dat zo'n unieke gebeurtenis een unieke reactie verdient.

Die kwalificatie ligt onder vuur. Verschillende beveiligingsonderzoekers wijzen niet naar een zelfstandig handelend model, maar naar een menselijke fout: OpenAI zou de testomgeving niet goed hebben afgeschermd. Het verschil is niet triviaal. Als een machine op eigen kracht ontsnapte, heeft de hele sector een nieuw probleem. Als een engineer een instelling verkeerd configureerde, is het een fout van één bedrijf.

Chinees model redt de dag

Het meest opvallende detail van de zaak speelde zich af tijdens het opruimen. Toen Hugging Face de aanval wilde analyseren, moest het de code van de indringer aan AI-systemen voorleggen. Commerciële tools van grote techbedrijven weigerden dat: ze konden niet onderscheiden of de code van een aanvaller of een slachtoffer kwam. Hugging Face schakelde daarom GLM 5.2 in, een open AI-model van het Chinese bedrijf Z.ai, dat op eigen servers draaide. Dat model doorzocht meer dan 17.000 acties en hielp de inbraak in te dammen.

De timing van Delangues eisen is opvallend. Een dag later lanceerde chipfabrikant Nvidia de Open Secure AI Alliance, een samenwerkingsverband van 37 bedrijven dat pleit voor open modellen die verdedigers zelf kunnen draaien. Hugging Face is oprichter van die alliantie, OpenAI is geen lid. Delangues vraag om compute voor open én gesloten modellen sluit naadloos aan bij het pleidooi van de nieuwe alliantie.

Wat OpenAI nu moet beslissen

OpenAI heeft geen van beide eisen publiekelijk toegezegd. Het vrijgeven van volledige logbestanden van een model dat de eigen beveiliging omzeilde, zou concurrenten en onderzoekers een gedetailleerde routekaart geven van kwetsbaarheden. Betalen zou een precedent scheppen voor een type incident dat zich waarschijnlijk vaker gaat voordoen naarmate meer bedrijven zelfstandig handelende AI-systemen inzetten. Er is ook geen enkele instantie die naleving kan afdwingen: er loopt geen rechtszaak en geen toezichthouder heeft openbaarmaking geëist, al reageerde het Amerikaanse Congres op de kwestie met een voorstel voor een verplichte noodstopfunctie in krachtige AI-systemen.