De Tweede Kamer debatteerde over algoritmegebruik door de overheid, dat onvoldoende transparant is. De inbreng van Open State Foundation werd door de Kamer overgenomen.
“Als een algoritme niet inzichtelijk en uitlegbaar is, gebruik het dan niet.” Dat advies van Open State Foundation aan de overheid werd gisteren (28 januari) aangehaald in een debat in de Tweede Kamer. De vaste commissie Digitale Zaken besprak ‘Inzet algoritmes en data-ethiek binnen de rijksoverheid’ met drie bewindspersonen: staatssecretaris Szabó (BZK/Digitale Zaken), staatssecretaris Van Oostenbruggen (Financiën) en staatssecretaris Struycken (Justitie en Veiligheid).
De commissie Digitale Zaken debatteerde over dit onderwerp met in het achterhoofd de lessen van het toeslagenschandaal en diverse adviezen en onderzoeken van de Algemene Rekenkamer. Want hoewel de aandacht is gevestigd op verantwoorde inzet van algoritmes én transparantie daarbij essentieel wordt beschouwd, komt het er maar niet van. Overheidsorganisaties weten niet goed welke algoritmes zij in huis hebben. Dit gebrek aan kennis en inzicht in algoritmes is problematisch. Zo worden risico’s niet goed ingeschat en krijgen burgers niet de gewenste uitleg over besluiten waar een algoritme is toegepast.
De afgelopen maanden heeft Open State samen met The Green Land en andere maatschappelijke partijen onderzoek gedaan naar effectieve vormen van transparantie van algoritmes die door de verschillende overheidsorganisaties worden gebruikt. Dat heeft geleid tot het whitepaper ‘Het 5 sterren-model voor transparante algoritmes’. Daarin presenteren we een methode om relatief eenvoudig inzicht en daarmee controleerbaarheid te creëren.
Het algoritmeregister van de overheid zou die inzichtelijkheid al moeten bieden. Maar het register bevat 610 algoritmes (stand eind vorig jaar), terwijl er naar schatting 16.000 in zouden moeten staan. Onze conclusie is dus dat slechts 2% van de gebruikte algoritmes enig inzicht biedt. Daarover schreven directeur Open State Serv Wiemers en onderzoeker Charlotte Kroese aan de vooravond van het debat een opinieartikel in de Volkskrant. Ook iBestuur nam onze conclusies over in een artikel. Ons opiniestuk en natuurlijk het whitepaper hebben wij gedeeld met alle leden van de Kamercommissie Digitale Zaken.
Tijdens het debat verwezen de Kamerleden dan ook meerdere malen naar het whitepaper en de aanbevelingen van Open State en andere maatschappelijke partners, met name Marieke Koekoek (Volt), Barbara Kathmann (GL-PvdA) en Jan Valize (PVV). Met name Kathmann riep het kabinet op het 5-sterren-model voor algoritmetransparantie te omarmen. Namens het kabinet zei staatssecretaris Szabó dat hij van ons model kennis heeft genomen, het interessant vindt, het aansluit bij het beleid van de rijksoverheid en dat hij zich er verder in wil verdiepen. Szabó zegde de Kamer toe in april in een brief aan de Kamer hierop terug te komen. Wij zijn benieuwd naar die brief en blijven betrokken.
Vind jij het vijfsterren-model ook interessant en wil je er meer over weten? Kom dan donderdag 6 februari naar de Open Donderdag in het Nationaal Archief in Den Haag. Daar zullen de makers toelichting geven en in een interactieve sessie de toepassing demonstreren. Er is dan ook ruimte om vragen te stellen.