Begrijpen hoe de overheid algoritmes gebruikt
Overheden gebruiken algoritmes steeds vaker om besluiten te ondersteunen of processen automatisch uit te voeren, bijvoorbeeld bij belastingen, toeslagen, studiefinanciering en vergunningen. Deze systemen kunnen processen efficiënter maken, maar hebben ook directe gevolgen voor burgers.
Open State zet zich daarom in voor meer transparantie over het gebruik van algoritmes en AI door overheden. Burgers moeten kunnen weten wanneer een algoritme wordt gebruikt, welke gegevens een rol spelen en hoe een beslissing tot stand komt.
We onderzoeken algoritmeregisters, adviseren overheden en ontwikkelen praktische hulpmiddelen voor meer transparantie. Een belangrijk resultaat is het 5 sterrenmodel, ontwikkeld met The Green Land en een brede groep experts. Het model helpt overheden om algoritmes stap voor stap inzichtelijker te maken.
Van digitale besluitvorming naar publieke controle
Algoritmes kunnen bepalen of beïnvloeden hoe een overheid met burgers omgaat. Daarom is het belangrijk dat niet alleen duidelijk is dát een algoritme wordt gebruikt, maar ook wat het doet en welke gevolgen het kan hebben.
Transparantie maakt publieke controle mogelijk. Wanneer informatie over algoritmes openbaar is, kunnen burgers, journalisten, wetenschappers en maatschappelijke organisaties onderzoeken hoe digitale besluitvorming werkt en mogelijke fouten of ongewenste effecten signaleren.
Zo draagt Open Algoritmes bij aan een open overheid waarin ook digitale besluitvorming controleerbaar is. Net als bij wetten, beleid en financiële besluiten moeten burgers kunnen begrijpen hoe de overheid tot beslissingen komt.
Wat hebben we bereikt?
-
2019: Open State start het programma Open Algoritmes en onderzoekt de invloed van algoritmes op burgers en de overheid.
-
2020-2022: We adviseren de gemeente Amsterdam over de ontwikkeling van het eerste publieksgerichte algoritmeregister van Nederland.
-
2023: Open State onderzoekt het algoritmeregister van de Justitiële Informatiedienst en organiseert een burgerpanel over de begrijpelijkheid ervan.
-
2023: We starten samen met maatschappelijke partners met de ontwikkeling van het 5 sterrenmodel voor algoritmetransparantie.
-
2024: Open State en The Green Land publiceren onderzoek naar algoritmetransparantie en presenteren het 5 sterrenmodel.
-
2025: Het 5 sterrenmodel wordt besproken in de Tweede Kamer en door Kamerleden aangehaald tijdens een debat over algoritmegebruik.
Op weg naar uitlegbare algoritmes
Open Algoritmes is een doorlopend programma. We blijven ons inzetten voor betere transparantie over algoritmes en AI en helpen overheden om informatie hierover toegankelijker en bruikbaarder te maken.
De ambitie is dat algoritmische besluitvorming geen black box vormt voor burgers. Wanneer duidelijk is welke systemen de overheid gebruikt en hoe deze werken, kunnen burgers, journalisten en maatschappelijke organisaties de overheid beter controleren.