Risicobeoordelingsmodel
Stel je voor dat een verzekeraar een nieuwe fabriek moet verzekeren. Voordat er een polis wordt afgegeven, stuurt de verzekeraar een inspecteur langs die kijkt naar brandgevaar, chemische stoffen, nooduitgangen en de manier waarop personeel met machines omgaat. Op basis daarvan krijgt de fabriek een risicoprofiel: laag, middel of hoog risico, met bijbehorende voorwaarden. Een risicobeoordelingsmodel doet in de wereld van nieuwe technologie, en vooral kunstmatige intelligentie (AI), iets vergelijkbaars: het is een gestructureerde methode om vooraf in te schatten hoe gevaarlijk een systeem kan zijn, voordat het wordt gebouwd, vrijgegeven of op grote schaal gebruikt.
Het woord klinkt technisch, maar de kern is eenvoudig: welke dingen kunnen misgaan, hoe groot is de kans daarop, en hoe erg zijn de gevolgen als het toch gebeurt? Bij een zelfrijdende auto kan dat gaan over botsingen, bij een AI-model dat teksten genereert over desinformatie of hulp bij het maken van wapens. Een risicobeoordelingsmodel dwingt ontwikkelaars om die vragen expliciet te beantwoorden in plaats van er pas achteraf achter te komen.
Wat is het precies?
Een risicobeoordelingsmodel is geen enkel apparaat of algoritme, maar een proces met een aantal vaste stappen die meestal terugkomen, ongeacht wie het uitvoert.
De eerste stap is risico-identificatie: in kaart brengen wat er allemaal fout zou kunnen gaan. Bij AI-systemen gaat het bijvoorbeeld om misbruik voor cyberaanvallen, hulp bij het ontwerpen van biologische of chemische wapens, het ondermijnen van menselijk toezicht, of grootschalige verspreiding van desinformatie.
Daarna volgt inschatting van waarschijnlijkheid en impact. Hoe groot is de kans dat dit scenario zich voordoet, en hoe ernstig zijn de gevolgen als het gebeurt? Dit gebeurt vaak via tests, zogeheten evaluaties, waarbij onderzoekers een AI-model actief proberen te verleiden tot ongewenst gedrag, bijvoorbeeld door te vragen om instructies voor gevaarlijke stoffen.
Op basis daarvan wordt het risico ingedeeld in niveaus of categorieën, zoals "laag", "beperkt", "hoog" of "onaanvaardbaar". Aan elk niveau hangen concrete mitigatiemaatregelen vast: extra beveiliging, beperktere toegang, menselijke goedkeuring vooraf, of in het ergste geval het niet uitbrengen van het systeem.
Tot slot is het proces iteratief: naarmate technologie verandert, worden de beoordelingen herhaald. Een model dat vandaag als veilig geldt, kan na een update opnieuw getest moeten worden.
Wat wil men ermee bereiken?
Het belangrijkste doel is het voorkomen van catastrofale of onomkeerbare schade voordat die kan optreden, in plaats van pas achteraf te repareren. Bij software kun je vaak een update uitrollen als er een fout wordt gevonden; bij bijvoorbeeld biologische risico's kan een fout onherstelbaar zijn.
Tegelijk willen de opstellers van deze modellen innovatie niet blokkeren. Het idee is niet dat elke nieuwe technologie verboden wordt, maar dat risico's proportioneel worden beheerst: hoe groter het potentiële gevaar, hoe strenger de eisen.
Risicobeoordelingsmodellen dienen ook om aan wettelijke verplichtingen te voldoen, publiek vertrouwen op te bouwen, en bedrijven een gestructureerd kader te geven om interne beslissingen te onderbouwen tegenover toezichthouders, investeerders en het publiek.
Voorbeelden uit de praktijk
De EU AI Act, in 2024 aangenomen door de Europese Unie, is de bekendste wettelijke toepassing. Deze wet deelt AI-systemen in naar risiconiveau: onaanvaardbaar risico (verboden, zoals sociale surveillance-scoring), hoog risico (zoals AI in sollicitatieprocedures of medische apparatuur, met strenge eisen), beperkt risico (transparantieverplichtingen) en minimaal risico (vrijwel geen regels).
Het AI-bedrijf Anthropic voerde in 2023 zijn Responsible Scaling Policy in, met zogeheten AI Safety Levels (ASL). Voordat een nieuw model wordt uitgebracht, wordt getest of het gevaarlijke capaciteiten heeft, bijvoorbeeld op het gebied van biowapens of autonoom hacken, en pas dan bepaald welke veiligheidsmaatregelen nodig zijn.
OpenAI introduceerde in 2023 zijn Preparedness Framework, geactualiseerd in 2025, waarin risico's op gebieden als cyberbeveiliging, chemische en biologische dreigingen en zelfstandige replicatie van modellen worden gescoord en gekoppeld aan concrete drempelwaarden voor lancering.
Google DeepMind publiceerde in 2024 zijn Frontier Safety Framework, dat "kritieke capaciteitsniveaus" definieert waarbij extra beveiliging verplicht wordt, bijvoorbeeld wanneer een model significant zou kunnen bijdragen aan het ontwikkelen van wapens.
Onafhankelijke organisaties zoals METR (Model Evaluation and Threat Research) voeren sinds 2023 externe evaluaties uit bij frontier-AI-modellen van meerdere bedrijven, waarbij ze testen of een model bijvoorbeeld zelfstandig geld kan verdienen, zichzelf kan kopiëren, of andere AI-systemen kan aansturen.
Hoe ver is de techniek?
Risicobeoordelingsmodellen bevinden zich nog in een vroege, snel veranderende fase. Er bestaat geen algemeen aanvaarde, gestandaardiseerde meetmethode zoals bijvoorbeeld bij crashtests voor auto's. Verschillende bedrijven gebruiken andere definities, drempelwaarden en testmethoden, wat vergelijken lastig maakt.
Een belangrijk obstakel is dat veel inschattingen uiteindelijk subjectief blijven: hoe waarschijnlijk is een zeldzame maar zeer ernstige gebeurtenis (een zogeheten staartrisico), als die nog nooit is voorgekomen? Onderzoekers zijn het oneens over hoe je zulke onzekere risico's op een verantwoorde manier moet kwantificeren.
De EU AI Act kent een gefaseerde invoering: de verboden praktijken golden vanaf begin 2025, de regels voor "general purpose"-AI-modellen vanaf medio 2025, en de volledige handhaving voor hoogrisicosystemen wordt in de periode 2026-2027 van kracht. Bedrijven en toezichthouders zijn dus nog volop bezig met de praktische uitwerking.
Er is ook doorlopend debat over de vraag of vrijwillige kaders van bedrijven, zoals de Preparedness Framework van OpenAI, voldoende garanties bieden zonder externe controle, of dat onafhankelijk toezicht noodzakelijk is.
Wie werken eraan?
Grote AI-ontwikkelaars zoals Anthropic, OpenAI, Google DeepMind en Meta hebben elk eigen interne risicobeoordelingskaders opgezet voor hun meest geavanceerde modellen.
Op regelgevend niveau speelt de Europese Unie een voortrekkersrol met de AI Act. In de Verenigde Staten publiceerde het National Institute of Standards and Technology (NIST) het AI Risk Management Framework, een vrijwillige leidraad voor organisaties. Het Verenigd Koninkrijk richtte het AI Safety Institute (later omgedoopt tot AI Security Institute) op om onafhankelijk geavanceerde AI-modellen te testen.
Daarnaast voeren onafhankelijke onderzoeksorganisaties zoals METR, samen met verschillende universitaire onderzoeksgroepen, externe evaluaties uit die als tegenwicht dienen tegen zelfbeoordeling door de bedrijven die de technologie zelf ontwikkelen.