Q2 Wat is de doeltreffendheid van het beleid? (ex post, meervoudig)

Wat kan je met deze effectevaluatievraag? Welk antwoord krijg je met deze vraag?

Bij een ex-post evaluatie van meerdere beleidsinstrumenten vertaalt deze vraag zich tot: wat is de doeltreffendheid van de beleidsinstrumenten geweest?

Met het antwoord op deze vraag wordt aangetoond of er een beleidseffect is (causaal verband tussen prestaties en effecten). Dus waar de vraag over prestaties en effecten Q1 (Wat zijn de prestaties en effecten van het beleid?) resulteert in een plattegrond van het beleid, staat hier de mate waarin een beleidsdoelstelling wordt gerealiseerd dankzij de inzet van de onderzochte beleidsinstrumenten centraal. De afbeelding hieronder visualiseert deze vraag.

We zijn in deze vraag dus op zoek naar het vaststellen van de (mate van) causaliteit: X leidt tot Y. In welke mate hebben prestaties tot het bereiken van effecten geleid? Het is bij deze vraag onvoldoende om te constateren dat het beleidsdoel gehaald is en dat er bepaalde prestaties waren (wat in de vraag over prestaties en effecten Q1 (Wat zijn de prestaties en effecten van het beleid?) aan de orde is). In hoeverre hebben de prestaties er ook echt voor gezorgd dat de beoogde effecten zijn opgetreden? Bij een evaluatie van meervoudige instrumenten is het een uitdaging om in de interactie tussen deze afzonderlijke instrumenten goed in beeld te krijgen. 

Een voorbeeld: één van de doelen van Rijkswaterstaat is het verminderen van files. Daarvoor verbreedt ze snelwegen, zet ze onder meer toeritdosering in op snelwegen, versnelt ze bij pech en aanrijdingen de berging van voertuigen, etc. In het tweede kwartaal van 2020 waren de files ineens verdwenen. Dat wil niet zeggen dat de instrumenten van Rijkswaterstaat veel meer doeltreffend is geworden. De daling van de filedruk was geen gevolg van de prestaties van Rijkswaterstaat, maar kwam voort uit de bestrijding van de Coronacrisis: werkend Nederland moest thuisblijven.

Een tweede interessante aspect van de definitie van doeltreffendheid ligt in de woorden: de mate waarin. Er moet dus bepaald worden in welke mate de prestaties de beleidsdoelstelling realiseren. Dit geeft blijk van de complexe wereld waarin beleid zich veelal begeeft en waarin veel verschillende aspecten op elkaar reageren. Je wilt de bijdrage van een beleidsinstrument bij voorkeur isoleren van andere beïnvloedende externe factoren. We moeten dus trachten te destilleren en kwantificeren wat het effect is van beleid.

Hoe verhoudt dit zich tot andere vragen?

Deze doeltreffendheidsvraag is wellicht de meest centrale vraag in veel beleidsevaluaties: In welke mate heeft beleid effect? Deze vraag richt zich primair op het onderbouwen van de (omvang van de)  veronderstelde causaliteit tussen prestaties en effecten. Hierbij maakt deze doeltreffendheidsvraag gebruik van de uitkomsten van de vraag over prestaties en effecten Q1 (Wat zijn de prestaties en effecten van het beleid?)

Nadat deze doeltreffendheidsvraag (Wat is de doeltreffendheid van beleid?) is beantwoord, heb je de mogelijkheid om ook andere vragen te beantwoorden:

Hoe kan je deze vraag beantwoorden?

Een logische eerste stap in dit type analyse is het bepalen van de effecten van de individuele instrumenten. (Quasi-)experimentele methoden: Randomised Control Trials; Difference in difference, Tijdreeksanalyse (O1) zijn de meest voor de hand liggende manier om vast te stellen. In Q2 (ex-post, enkelvoudig) is hier meer over te vinden en is aangegeven welke onderzoeksmethoden hiervoor gebruikt kunnen worden. Wellicht dat ook gebruikt gemaakt kan worden van al uitgevoerde studies (documenten- en literatuuronderzoek (incl. beleidsrapporten, Kamerbrieven e.d.) (D2)) over de individuele instrumenten.

De echte uitdaging bij dit vraagstuk ligt in de interactie-effecten tussen de beleidsinstrumenten. Hierbij kan ook gebruik gemaakt worden van Lerend evalueren (O11).

Keuzehulp opnieuw starten