Effort-niveau: hoeveel moeite mag een AI-model doen?
Stel je voor dat je een heel slimme rekenmachine hebt die twee standen kent: een snelle stand voor simpele optellingen en een langzame, grondige stand voor ingewikkelde vergelijkingen. Bij die langzame stand denkt de machine hardop na, probeert verschillende oplossingen uit en controleert zichzelf, voordat hij met een antwoord komt. Zoiets is een effort-niveau bij moderne AI-taalmodellen: een instelling die bepaalt hoeveel 'denkwerk' het model mag verrichten voordat het een antwoord geeft.
Het idee is verrassend simpel maar heeft grote gevolgen. Bij een laag effort-niveau geeft een model snel en goedkoop antwoord, prima voor een simpele vraag als 'wat is de hoofdstad van Frankrijk'. Bij een hoog effort-niveau neemt het model veel meer tijd en rekenkracht om een probleem van meerdere kanten te bekijken, wat nuttig is bij bijvoorbeeld een lastig wiskundig bewijs of een complex programmeerprobleem. De gebruiker of ontwikkelaar kan zelf kiezen welke stand gewenst is, afhankelijk van de taak.
Wat is het precies?
Moderne taalmodellen zoals die van OpenAI, Anthropic en Google kunnen op twee manieren 'nadenken'. De eerste manier is direct een antwoord genereren, woord voor woord, zonder tussenstappen te laten zien. De tweede manier heet redeneren (reasoning): het model genereert eerst een reeks tussenstappen, een soort innerlijke monoloog, voordat het tot een definitief antwoord komt. Die tussenstappen worden vaak niet aan de gebruiker getoond, maar kosten wel rekentijd en geld.
Een effort-niveau (in het Engels vaak reasoning effort genoemd) is een instelbare parameter die bepaalt hoeveel van die tussenstappen het model mag genereren. Bij ontwikkelaars zie je dit vaak terug als een simpele keuze tussen bijvoorbeeld 'low', 'medium' en 'high'. Hoe hoger het niveau, hoe meer redeneerstappen het model maakt, hoe langer de reactietijd, en hoe hoger de rekenkosten.
Technisch gezien werkt dit doordat het model tijdens het genereren van zijn antwoord een budget krijgt: een maximumaantal 'denktokens' dat het mag gebruiken. Bij een laag effort-niveau stopt het model al snel met nadenken en geeft het zijn beste directe inschatting. Bij een hoog niveau mag het model zichzelf meerdere keren corrigeren, verschillende oplossingsroutes verkennen en pas daarna de meest waarschijnlijke conclusie kiezen. Dit sluit aan bij wat onderzoekers test-time compute noemen: extra rekenkracht die niet tijdens het trainen van het model wordt ingezet, maar op het moment dat er daadwerkelijk een vraag wordt beantwoord.
Wat wil men ermee bereiken?
De kernvraag achter effort-niveaus is een economisch en praktisch dilemma: meer nadenken levert vaak betere antwoorden op, maar kost ook meer tijd, energie en geld. Voor eenvoudige taken is uitgebreid redeneren zonde van de middelen; voor complexe taken kan het juist het verschil maken tussen een fout en een correct antwoord.
Door gebruikers of ontwikkelaars zelf het effort-niveau te laten kiezen, kunnen AI-bedrijven één model aanbieden dat zich aanpast aan de situatie, in plaats van voor elke moeilijkheidsgraad een apart model te moeten bouwen. Dit is ook een antwoord op kritiek dat grote taalmodellen soms overdreven veel rekenkracht verspillen aan simpele vragen, wat bijdraagt aan onnodig energieverbruik.
Daarnaast hopen onderzoekers dat het opschalen van redeneertijd een manier is om modellen slimmer te maken zonder ze eerst opnieuw te hoeven trainen op enorme hoeveelheden nieuwe data. Waar de vooruitgang in AI lange tijd vooral kwam van grotere modellen en meer trainingsdata, verschuift de aandacht nu deels naar 'slimmer nadenken tijdens gebruik' als extra hefboom voor betere prestaties.
Voorbeelden uit de praktijk
Het duidelijkste voorbeeld is de o-serie van OpenAI. Met de introductie van o1 in september 2024 kregen gebruikers voor het eerst op grote schaal een taalmodel dat expliciet extra tijd nam om te redeneren voordat het antwoordde, met zichtbaar betere scores op wiskunde- en programmeertaken. Bij de opvolger o3, aangekondigd eind 2024 en breder uitgerold in 2025, voegde OpenAI een instelbare reasoning effort-parameter toe waarmee ontwikkelaars via de API konden kiezen tussen bijvoorbeeld 'low', 'medium' en 'high'.
Ook Anthropic, de maker van de Claude-modellen, introduceerde in 2025 een vergelijkbaar systeem waarbij ontwikkelaars een 'denkbudget' (thinking budget) of effort-niveau kunnen instellen, zodat Claude meer of minder interne redeneerstappen doorloopt afhankelijk van de complexiteit van de taak.
Google DeepMind volgde met redeneervarianten van zijn Gemini-modellen, waarbij eveneens een instelbare hoeveelheid 'denktijd' beschikbaar is voor complexere opdrachten, zoals wiskundige bewijsvoering of meerstaps-programmeeropgaven.
In de academische wereld is het onderzoeksproject rond chain-of-thought prompting, oorspronkelijk beschreven door onderzoekers van Google Brain in 2022, een belangrijke voorloper: zij toonden aan dat een model dat wordt aangemoedigd om tussenstappen te tonen, aanzienlijk betere resultaten haalt op redeneertaken dan een model dat direct antwoord geeft.
Hoe ver is de techniek?
Effort-niveaus zijn inmiddels een gangbaar onderdeel van de grote commerciële taalmodellen, met name bij taken die wiskunde, logica of programmeren vereisen. De meeste grote aanbieders bieden per 2025 een vorm van instelbare redeneerdiepte aan via hun ontwikkelaars-API's.
Toch zijn er belangrijke beperkingen. Een hoger effort-niveau verbetert lang niet altijd het resultaat: bij feitelijke of creatieve vragen kan extra 'nadenken' soms juist tot langere, omslachtigere of zelfs minder accurate antwoorden leiden. Onderzoekers spreken hier van overthinking, waarbij een model zichzelf in cirkels laat redeneren zonder dat dit de kwaliteit ten goede komt.
Een ander obstakel is transparantie: gebruikers zien meestal niet wat er tijdens het redeneerproces gebeurt, waardoor moeilijk te controleren is of de tussenstappen daadwerkelijk logisch zijn of dat het model achteraf een verzonnen redenering presenteert die toevallig tot het juiste antwoord leidt. Dit fenomeen, waarbij de zichtbare redenering niet overeenkomt met het werkelijke besluitvormingsproces van het model, wordt in onderzoek naar AI-uitlegbaarheid als een serieus punt van zorg genoemd.
Ook de kosten blijven een obstakel: een hoog effort-niveau kan tien tot honderd keer meer rekenkracht (en dus geld) kosten dan een laag niveau, wat het gebruik ervan in de praktijk beperkt tot taken waar de extra nauwkeurigheid de kosten rechtvaardigt.
Wie werken eraan?
OpenAI, gevestigd in San Francisco, geldt met zijn o-serie modellen als een van de voortrekkers van instelbare redeneerinspanning. Anthropic, eveneens uit San Francisco en bekend van de Claude-modellen, ontwikkelt vergelijkbare systemen met instelbare denkbudgetten. Google DeepMind in Londen en Mountain View werkt aan redeneervarianten binnen de Gemini-modellenreeks.
Daarnaast doen academische groepen, onder meer verbonden aan Stanford University, MIT en Google Research, fundamenteel onderzoek naar wat er precies gebeurt tijdens het redeneerproces van deze modellen en hoe je de effectiviteit van extra rekentijd kunt meten. Ook Chinese techbedrijven zoals DeepSeek hebben in 2024 en 2025 eigen redeneermodellen uitgebracht die met vergelijkbare technieken werken, wat laat zien dat dit geen exclusief Amerikaans onderzoeksterrein is.