– Transparantie in geautomatiseerde besluitvorming –

Het gebruik van algoritmes
Onze overheid draait voor een belangrijk deel op algoritmes. Algoritmes zijn overal bij de overheid te vinden. De Belastingdienst handelt het merendeel van de aangiftes en toeslagaanvragen af door middel van algoritmes, DUO regelt de studiefinanciering via algoritmes en gemeentes gebruiken algoritmes voor het sturen van de WOZ-aanslag of bij vergunningsaanvragen.

Algoritmes – een set aan beslisregels – zijn het hart van het geautomatiseerde besluitproces. Dat heeft veel voor- en nadelen. Het zorgt voor efficiëntie- en kostenvoordelen, rechtszekerheid, minder fouten, bruikbare data en analyses, en schaalbaarheid. Dat zijn voordelen voor de burger.

Aan de andere kant wordt de burger ook geconfronteerd met de nadelen van geautomatiseerde besluitvorming: er kan een gebrek aan maatwerk ontstaan voor uitzonderlijke gevallen, er is gevaar voor dehumanisering en de keuzes van de programmeur bij het schrijven van het algoritme kan vergaande, onbedoelde, gevolgen hebben. En daarbij is het alom bekende antwoord: ‘het systeem staat dat niet toe’ het grootste gevaar. Burgers kunnen de dupe worden van algoritmes die niet open zijn.

Maatschappelijke discussie
Er is een maatschappelijke discussie gaande over de digitaliseringsstrategie van de overheid. In de Tweede Kamer heeft het onderwerp meerdere malen op de agenda gestaan. De Raad van State heeft een ongevraagd advies gepubliceerd over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen. En ook journalisten verdiepen zich veelvuldig in het onderwerp. Dit zijn goede ontwikkelingen: geautomatiseerde besluitvorming biedt ons kansen, maar we moeten eerst goed over het onderwerp nagedacht hebben voordat we definitief inzetten op geautomatiseerde besluitvorming. Nu is het moment om te handelen.

Richting geven
Daarom willen we richting geven aan deze maatschappelijke discussie, waarbij we ons inzetten voor transparantie van algoritmes. Algoritmes moeten open worden gemaakt, worden bekeken en worden bekritiseerd: net als wetgeving, net als beleid en net als regelgeving. Op die manier kunnen we ons beschermen tegen de nadelen van geautomatiseerde besluitvorming.

Doe mee
Wij doen vijf voorstellen om transparantie in geautomatiseerde besluitvorming te brengen. Het realiseren van de voorstellen is iets wat we niet alleen kunnen. Wij hebben ambassadeurs, inhoudelijke denkkracht en vrijwilligers nodig om onze boodschap naar buiten te brengen. Wil jij helpen met dit project? Neem dan contact op met Leydi (leydi@openstate.eu) en/of Jonathan (jonathan@seib.nl).

Algoritmeconsultatie
Een voorstel tot geautomatiseerde besluitvorming, het gebruik van een algoritme, wordt publiek geconsulteerd via https://internetconsultatie.nl. De samenleving kan vroegtijdig meepraten over de noodzaak, uitvoering en doel van het gebruik van het algoritme. Dit leidt tot meer transparantie in het besluitvormingsproces en kwaliteit van de besluitvorming.

 

Review voor gebruik
Algoritmes mogen alleen worden gebruikt nadat deze zijn bekeken door een daarvoor bevoegde instantie. Net als de Raad van State advies moet geven over wetten, moet er een instantie komen die over een algoritme kunnen adviseren voordat deze wordt gebruikt. Die instantie moet gevraagd en ongevraagd kunnen adviseren over de implementatie, de doelmatigheid en de integriteit van het algoritme bewaren.

 

Fail-safe voor maatwerk
Burgers moeten ten alle tijden een fail-safe ‘knop’ kunnen indrukken waardoor hun casus uit het algoritme wordt gehaald en door een mens wordt bekeken. Zo houden we rekening met unieke gevallen en houden burgers altijd controle over de manier waarop ze worden behandeld door hun overheid.

 

Publicatie van algoritmes
De overheid moet de uiteindelijke broncode, informatie- en gegevensmodellen, en documentatie van algoritmes publiceren, net als wet en regelgeving, vóórdat deze in gebruik worden genomen gepubliceerd. Alleen dan weten wij waar we aan toe zijn, en kan de samenleving het algoritme controleren.

 

Publiek register voor algoritmes
Persoonsgegevens moeten worden gedocumenteerd. Waarom algoritmes niet? Bij elk proces dat wordt ondersteund of geleid door een algoritme, moet worden gedocumenteerd welke gegevens worden gebruikt, welke uitkomst het heeft, hoe het algoritme werkt, waarvoor het wordt gebruikt en door wie het is gemaakt. Dit moet in een publiek register worden opgenomen.

envelope

Op de hoogte blijven?