Van black box naar transparant algoritme
Overheden gebruiken steeds vaker algoritmes om processen te automatiseren, gegevens te analyseren en beslissingen te ondersteunen. Toch is vaak niet duidelijk welke algoritmes worden gebruikt, hoe ze werken en welke gevolgen ze hebben voor burgers.
We ontwikkelden samen met The Green Land en andere maatschappelijke partijen daarom het 5-sterrenmodel voor transparante algoritmes. Het model vertaalt algemene principes over transparantie naar concrete stappen en is gebaseerd op onderzoek, gesprekken met professionals en een burgerpanel.
Het model kent vijf niveaus van transparantie:
- Gepubliceerd: informatie over dát en waarvoor een algoritme wordt gebruikt is openbaar.
- Uitgelegd: de werking, gebruikte data, risico’s en verantwoordelijkheden worden beschreven.
- Gecontroleerd: resultaten van audits, monitoring en andere controles worden gedeeld.
- Testbaar: belanghebbenden kunnen zelf onderzoeken welke uitkomsten een algoritme geeft.
- Open: broncode, data, ontwerpkeuzes en beheersmaatregelen worden zo volledig mogelijk openbaar gemaakt.
Het model is geen checklist of certificering, maar een hulpmiddel om per algoritme te bepalen welke transparantie passend en haalbaar is.
Transparantie als basis voor publieke controle
Transparantie gaat volgens het 5-sterrenmodel niet alleen over het publiceren van informatie. Het doel is dat burgers, journalisten, onderzoekers en toezichthouders algoritmische besluitvorming kunnen begrijpen en controleren.
Uit ons burgerpanel bleek dat mensen vooral willen weten óf een algoritme wordt gebruikt, welke gegevens een rol spelen en hoe een besluit tot stand komt. Welke informatie nodig is, verschilt daarbij per situatie en doelgroep.
Het model helpt organisaties daarom om transparantie stapsgewijs op te bouwen: van basisinformatie over een algoritme naar uitleg, controleerbaarheid en uiteindelijk meer openheid. Zo draagt het bij aan publieke controle én aan meer inzicht binnen overheidsorganisaties zelf.
Wat hebben we bereikt?
- 2024: We onderzoeken samen met The Green Land, andere professionals en een burgerpanel wat effectieve algoritmetransparantie betekent.
- 2024: De eerste versie van het 5-sterrenmodel wordt gepubliceerd.
- 2025: Het model wordt meerdere keren aangehaald tijdens een Tweede Kamerdebat over algoritmegebruik door de overheid.
- 2026: Open State zet zich als ambassadeur in voor de verdere verspreiding en toepassing van het model.
Op weg naar betekenisvolle transparantie
Het 5-sterrenmodel is een doorlopend en door de community ontwikkeld project. We zetten onze expertise en netwerk in om het model verder te verspreiden en toe te passen.
Niet ieder algoritme kan of moet vijf sterren behalen. Privacy, veiligheid en andere belangen kunnen volledige openheid beperken. Het model helpt organisaties daarom om per situatie bewust te bepalen welke transparantie mogelijk en wenselijk is en deze keuzes inzichtelijk te maken.
Zo wordt transparantie geen eenmalige verplichting, maar een doorlopend onderdeel van de ontwikkeling en inzet van algoritmes en AI.