Open over geautomatiseerde besluitvorming

Het gebruik van algoritmes
Onze overheid maakt in toenemende mate gebruik van algoritmes. Zo handelt de Belastingdienst het grootste deel van de aangiftes en toeslagaanvragen af door middel van automatische besluitvorming, DUO regelt de studiefinanciering via algoritmes en gemeentes gebruiken algoritmes voor het sturen van de WOZ-aanslag of bij vergunningsaanvragen.

Algoritmes – een set aan beslisregels – zijn de kern van een geautomatiseerd besluitproces. Het gebruik ervan kent voor- en nadelen. Automatische besluitvorming kan bijdragen aan efficiëntie, lagere kosten, rechtszekerheid, minder fouten, bruikbare data en analyses, en schaalbaarheid.

Maar er zijn ook keerzijdes. Er ligt namelijk een gevaar van dehumanisering op de loer door een  gebrek aan maatwerk voor uitzonderlijke gevallen (‘het systeem staat het niet toe dat..’). En keuzes van de programmeur bij het schrijven van het algoritme kunnen vergaande, onbedoelde, gevolgen hebben.

Daarom is het van het grootste belang dat er duidelijk kaders komen voor verantwoord gebruik van algoritmes en kunstmatige intelligentie door de overheid. En dat beslismodellen transparant en uitlegbaar worden gemaakt, zodat te zijn te allen tijde controleerbaar zijn voor de samenleving.

Maatschappelijke discussie
In het maatschappelijk debat is er in toenemende mate aandacht voor over de digitaliseringsstrategie van de overheid, inclusief het gebruik en de gevolgen van algoritmes. In de Tweede Kamer komt het onderwerp steeds hoger op de agenda. En de Raad van State publiceerde in 2018 een belangrijk ongevraagd advies over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen. En ook journalisten verdiepen zich in het onderwerp, getuige bijvoorbeeld dit artikel van de NOS over de grote hoeveelheid algoritmes die in gebruik zijn bij de overheid.

Dit zijn goede ontwikkelingen: geautomatiseerde besluitvorming biedt ons kansen, maar we moeten beter over ethische kaders, uitlegbaarheid en transparantie hebben nagedacht voordat we als samenleving definitief inzetten op geautomatiseerde besluitvorming.

Richting geven
Open State Foundation wil mede richting geven aan deze maatschappelijke discussie, waarbij we ons, zoals je van ons mag verwachten, inzetten voor transparantie van algoritmes. Algoritmes moeten open worden gemaakt, worden bekeken en kunnen worden bekritiseerd. Net als wetgeving, net als beleid, net als regelgeving en net als financiën. Op die manier kunnen we de uitzondering (en wie is dat niet?) beschermen tegen de nadelen van geautomatiseerde besluitvorming.

Vijf voorstellen
Daarom: hieronder vijf voorstellen om transparantie in geautomatiseerde besluitvorming te brengen. Heb je opmerkingen, of wil je meedenken over het onderwerp? Neem dan vooral contact op met Wilma Haan (wilma@openstate.eu).

1. Algoritmeconsultatie
Een voorstel tot geautomatiseerde besluitvorming, het gebruik van een algoritme, wordt publiek geconsulteerd via https://internetconsultatie.nl. De samenleving kan vroegtijdig meepraten over de noodzaak, uitvoering en doel van het gebruik van het algoritme. Dit leidt tot meer transparantie in het besluitvormingsproces en kwaliteit van de besluitvorming.

 

2. Review voor gebruik
Algoritmes mogen alleen worden gebruikt nadat deze zijn bekeken door een daarvoor bevoegde instantie. Net als de Raad van State advies moet geven over wetten, moet er een instantie komen die over een algoritme kunnen adviseren voordat deze wordt gebruikt. Die instantie moet gevraagd en ongevraagd kunnen adviseren over de implementatie, de doelmatigheid en de integriteit van het algoritme bewaren.

 

3. Fail-safe voor maatwerk
Burgers moeten ten alle tijden een fail-safe ‘knop’ kunnen indrukken waardoor hun casus uit het algoritme wordt gehaald en door een mens wordt bekeken. Zo houden we rekening met unieke gevallen en houden burgers altijd controle over de manier waarop ze worden behandeld door hun overheid.

 

4. Publicatie van algoritmes
De overheid moet de uiteindelijke broncode, informatie- en gegevensmodellen, en documentatie van algoritmes publiceren, net als wet en regelgeving, vóórdat deze in gebruik worden genomen gepubliceerd. Alleen dan weten wij waar we aan toe zijn, en kan de samenleving het algoritme controleren.

 

5. Publiek register voor algoritmes
Persoonsgegevens moeten worden gedocumenteerd. Waarom algoritmes niet? Bij elk proces dat wordt ondersteund of geleid door een algoritme, moet worden gedocumenteerd welke gegevens worden gebruikt, welke uitkomst het heeft, hoe het algoritme werkt, waarvoor het wordt gebruikt en door wie het is gemaakt. Dit moet in een publiek register worden opgenomen.