Overheid loopt achter op transparant algoritmegebruik
Nederland gaat haar eigen doelstelling voor meer algoritmetransparantie niet halen. De belofte van ministeries om in 2025 alle impactvolle algoritmes in het algoritmeregister te publiceren is voor slechts 2% voltooid. En dat terwijl er na SyRI, het Toeslagenschandaal, de DUO discriminatie, en de foute UWV-uitkeringen een enorme roep is om meer inzicht in die algoritmes. Inwoners moeten begrijpen hoe een overheid besluiten over haar neemt. Journalisten en wetenschappers moeten kunnen controleren hoe die algoritmes op maatschappelijke niveau gevolgen kunnen hebben. Een betrouwbare overheid laat daarom – net als bij analoge besluiten – zien hoe ze te werk gaat. En daarin loopt de Nederlandse overheid nog mijlenver achter. Om overheidsorganisaties praktische handvatten te bieden voor algoritmetransparantie lanceren Open State en The Green Land daarom het 5 sterren-model.
Transparantie nog geen realiteit
Algoritmetransparantie komt steeds terug als ambitie, maar we zien er nog niets van terug in de praktijk. De AI Act stelt de komende jaren steeds meer eisen op dit thema, en ook zijn allerlei handreikingen, kaders en richtlijnen opgetuigd over algoritmegebruik bij overheden. Veel overheidsorganisaties zien door de bomen het bos niet meer, weten niet waar ze moeten beginnen, en missen sturing en leiderschap vanuit de politiek op dit thema. Kortom: er missen concrete handvatten om écht aan de slag te gaan met verantwoord en transparantg algoritmegebruik.
Het Algoritmeregister kan een stap in de goede richting zijn, maar biedt nog weinig soelaas voor échte inzichtelijkheid. Van de geschatte 16.000 impactvolle algoritmes bij overheidsorganisaties staan er nog geen 300 in het Algoritmeregister (figuur 1).
Slechts 22 algoritmes zijn afkomstig van 10 ministeries, terwijl die in december 2023 beloofden om al hun impactvolle algoritmes in 2025 tepubliceren (figuur 3). 
Ook kan men niet zien hoe organisaties de risico’s hebben ingeschat en aangepakt omdat het register geen links naar impacttoetsen (zoals DPIAs en IAMAs) bevat (figuur 4).
Op naar begrijpelijke en verantwoorde algoritmes
Open State Foundation ontwikkelt het 5 sterren-model in samenwerking met The Green Land. Dit model is geïnspireerd op de 5 sterren voor linked open data van Tim Berners-Lee. Het 5 sterren-model maakt duidelijk welke stappen gezet moeten worden om meer transparantie en inzicht over een algoritme te creëren. Om het model te verrijken hebben we interviews afgenomen met experts binnen en buiten de overheid over algoritmegebruik en transparantie daarover. Daarnaast hebben we een burgerpanel georganiseerd om de stem van inwoners mee te nemen. Al deze bevinden hebben we gebundeld in ons whitepaper, dat we scheven samen met wetenschappers en andere maatschappelijke partners. Het 5 sterren-model ziet er als volgt uit:
Hoe werkt het model?
De 5 sterren staan elk voor een bepaald niveau van inzichtelijkheid. Die inzichtelijkheid heeft ook weer verschillende niveaus – want voor wie wil je je algoritme eigenlijk inzichtelijk maken? Voor de directe gebruikers van het algoritme (bijv. ambtenaren), of voor de inwoners van je gemeente? Voor journalisten en wetenschappers? Of voor technische experts, zoals developers? Ongeacht de doelgroep is algoritmetransparantie een essentieel onderdeel van goed bestuur: net als bij ‘analoge’ besluiten moet de overheid bij algoritmegebruik ook laten zien wat ze doet, hoe ze tot een beslissing komt, en daar gemotiveerd uitleg over kunnen geven. Transparantie is geen doel op zich, maar een kernwaarde die tijdens de hele ontwikkeling en het gebruik van het algoritme terug moet komen.
Voor veel overheidsorganisaties kan het behalen van 1 ster voor een algoritme al een flinke uitdaging zijn. Ons advies is daarom om in ieder geval te beginnen met het inventariseren van wat je überhaupt aan algoritmes in huis hebt, en daar de belangrijkste informatie over verzameld. Maak daarin vooral zelf een afweging wat je als organisatie belangrijk vindt om inzicht over te geven. Zijn dat algoritmische systemen die direct met burgers en inwoners in aanraking komen, zoals algoritmes die ondersteunen bij beslissingen over sociale voorzieningen? Wil je mensen laten zien dat je de algoritmes waarbij veel persoonsgegevens worden gebruikt veilig hebt ingericht? Of laat je liever de minder privacygevoelige maar grotere beslismodellen zien? De keuze is aan jou, maar begin vooral met die eerste inventarisatie en prioriteitstelling! Hoewel misschien niet alle algoritmes geschikt zijn voor 5 sterren, moet de overheid wel over elk algoritme verantwoording af kunnen leggen. Bij analoge besluitvorming moet dat immers ook.
Onderzoek en doorontwikkeling
Het 5 sterren-model is continu in ontwikkeling. Open State Foundation is als hoeder aangewezen om het model onder de aandacht te brengen en overheidsorganisaties aan te spreken op transparantie over algoritmegebruik. Het model zelf is geen eigendom van Open State of van The Green Land, maar van een betrokken community – mensen van binnen of buiten de overheid, met of zonder verstand van het onderwerp. Want een verantwoorde inzet van algoritmes gaat ons allemaal aan.
Dankzij een subsidie van de Maatschappelijke Coalitie Over Informatie Gesproken (MCOIG) hebben Open State Foundation en The Green Land de afgelopen maanden samen onderzoek gedaan naar de doorontwikkeling van het 5 sterren-model. Dat deden we door:
- Een whitepaper op te stellen met onze onderzoeksconclusies en praktische handvatten voor ambtenaren om zelf aan de slag te gaan met het 5 sterren-model
- Een burgerpanel te organiseren om inwoners te vragen naar hun kijk op de verantwoorde inzet van algoritmes en transparantie daarover
- Gesprekken te voeren met betrokkenen, onderzoekers en ambtenaren over hun ervaringen met algoritmetransparantie binnen de overheid
Vervolgstappen
Op 21 november 2024 stonden we al met het 5 sterren-model op het ECP Jaarfestival. Daar gingen we samen met de MCOIG in gesprek met bezoekers over het model en algoritmes in het algemeen. Ook hebben we onze bevindingen ingebracht bij Kamerleden voor het Commissiedebat Digitale Zaken over de Inzet van algoritmes binnen de rijksoverheid van donderdag 12 december 2024. Zie: persbericht.
Deze lancering betekent niet het einde van het project, maar een mooi startpunt voor het verzamelen van reacties, nieuwe inzichten en doorontwikkelingen voor het 5 sterren-model. Blijf op de hoogte van dit project via de kanalen van Open State Foundation en The Green Land, of neem een kijkje op 5sterrenalgoritmes.nl!
Hier vind je ons persbericht. Lees het hele whitepaper hier.
