Q2 Wat is de doeltreffendheid van het beleid? (ex post, enkelvoudig)

Wat kan je met deze effectevaluatievraag? Welk antwoord krijg je met deze vraag?

Bij een ex-post evaluatie van één beleidsinstrument vertaalt deze vraag zich tot: wat is de doeltreffendheid van het beleidsinstrument geweest?

Met het antwoord op deze vraag wordt aangetoond of er een beleidseffect is (causaal verband tussen prestaties en effecten). Dus waar de vraag over prestaties en effecten Q1 (Wat zijn de prestaties en effecten van het beleid?) resulteert in een plattegrond van het beleid, staat hier de mate waarin een beleidsdoelstelling wordt gerealiseerd dankzij de inzet van de onderzochte beleidsinstrumenten centraal. De afbeelding hieronder visualiseert deze vraag.

We zijn in deze vraag dus op zoek naar het vaststellen van de (mate van) causaliteit: X leidt tot Y. In welke mate hebben prestaties tot het bereiken van effecten geleid? Het is bij deze vraag onvoldoende om te constateren dat het beleidsdoel gehaald is en dat er bepaalde prestaties waren (wat in de vraag over prestaties en effecten Q1 (Wat zijn de prestaties en effecten van het beleid?) aan de orde is). In hoeverre hebben de prestaties er ook echt voor gezorgd dat de beoogde effecten zijn opgetreden?

Een voorbeeld: één van de doelen van Rijkswaterstaat is het verminderen van files. Daarvoor verbreedt ze bijvoorbeeld snelwegen. . In het tweede kwartaal van 2020 waren de files ineens verdwenen. Dat wil niet zeggen dat één instrument van Rijkswaterstaat veel meer doeltreffend is geworden. De daling van de filedruk was geen gevolg van de prestaties van Rijkswaterstaat, maar kwam voort uit de bestrijding van de Coronacrisis: werkend Nederland moest thuisblijven.

Een tweede interessante aspect van de definitie van doeltreffendheid ligt in de woorden: de mate waarin. Er moet dus bepaald worden in welke mate de prestaties de beleidsdoelstelling realiseren. Dit geeft blijk van de complexe wereld waarin beleid zich vaak begeeft en waarin veel verschillende aspecten op elkaar reageren. Je wilt de bijdrage van een beleidsinstrument bij voorkeur isoleren van andere beïnvloedende externe factoren. We moeten dus proberen te destilleren en kwantificeren wat het effect is van beleid.

Hoe verhoudt dit zich tot andere vragen?

Deze doeltreffendheidsvraag is wellicht de meest centrale vraag in veel beleidsevaluaties: (In welke mate) heeft beleid effect? Deze vraag richt zich primair op het onderbouwen van de (omvang van de)  veronderstelde causaliteit tussen prestaties en effecten. Hierbij maakt deze doeltreffendheidsvraag gebruik van de uitkomsten van de vraag over prestaties en effecten Q1 (Wat zijn de prestaties en effecten van het beleid?).

Nadat deze doeltreffendheidsvraag (Wat is de doeltreffendheid van beleid?) is beantwoord, heb je de mogelijkheid om ook andere vragen te beantwoorden:

Hoe kan je deze vraag beantwoorden?

Dit is wellicht een van de meest gestelde vragen in beleidsevaluaties waarin je achteraf de mate van doeltreffendheid van één instrument wilt bepalen. (Quasi-)experimentele methoden: Randomised Control Trials; Difference in difference, Tijdreeksanalyse (O1) zijn de meest voor de hand liggende manier om vast te stellen. De eisen hieraan zijn hoog en de uitspraken die gedaan worden hebben een smalle scope, maar de betrouwbaarheid van de uitspraken kan zeer hoog zijn. Het is uiteraard niet altijd mogelijk om deze methodes in te zetten. Een alternatief kan zijn om te kijken naar systematische reviews & meta-analyse (O3) en/of Outcome mapping (O7). Ook Qualitative Comparative Analysis (QCA) (O9) kan interessant zijn. Denk bij deze evaluatievraag ook aan het inzetten van gedragsinzichten (O15). Indien meerdere methodes worden ingezet dan is het aan te raden om de combinatie van deze methodes zorgvuldig uit te voeren. Meer hierover is te vinden onder bij mixed methods (O12).

Keuzehulp opnieuw starten